Un’azienda di intelligenza artificiale per il campo di battaglia afferma di essere uno dei bravi ragazzi
An AI company in the battlefield claims to be one of the good guys.
Sullo schermo di fronte a me c’è una catena montuosa. Muovendosi verso le mie truppe dall’angolo in alto a destra c’è un sinistro punto giallo. Sospetto che sia un drone nemico, ma potrebbe essere un uccello o un aereo civile, quindi chiedo alla mia telecamera a lungo raggio di avvicinarsi. In pochi secondi, restituisce uno snapshot di un drone militare con ali larghe. Il punto in arrivo passa da giallo a rosso, segnalando una minaccia.
Potrebbe sembrare un videogioco, ma non lo è. Questa è una tecnologia progettata per essere utilizzata da veri eserciti. Ed è la prima volta che la società di difesa Helsing AI mostra a un giornalista com’è effettivamente il software che sta vendendo. Il sistema di punta di Helsing assorbe enormi quantità di dati generati dai sensori (elettro-ottici, infrarossi, sonar) e dai sistemi d’arma (aerei da combattimento, droni, elicotteri) utilizzati nella guerra moderna. Gli algoritmi poi riassumono quelle informazioni in una visualizzazione simile a un videogioco per mostrare come gli eventi si stanno svolgendo in tempo reale sul campo di battaglia. Quello che sto guardando è una simulazione di quello che vedrei se lavorassi per un esercito che utilizza il sistema di Helsing.
Torsten Reil, 49 anni, è uno dei due CEO dell’azienda. Con una formazione nel settore dei videogiochi, in precedenza ha fondato lo studio di sviluppo NaturalMotion, Reil è preoccupato dell’esperienza dell’utente e di rendere la piattaforma intuitiva per la sua clientela militare. Poi c’è il co-CEO Gundbert Scherf, 41 anni, ex consulente speciale della difesa militare della Germania, che parla fluentemente di come lavorano le forze armate europee e di quello che ritiene debbano fare per modernizzarsi. E infine c’è l’esperto interno di intelligenza artificiale e chief product officer, Niklas Köhler, 31 anni, il più giovane dei tre. Köhler stava utilizzando l’apprendimento automatico per risolvere problemi medici quando ha cominciato a essere avvicinato da figure del settore della difesa, spingendolo a cambiare direzione. “Applicazioni come il rilevamento dei droni, in termini di metodi, non sono così diversi dal trovare il cancro in grandi scansioni TC”, afferma.
Nella guerra moderna, ogni secondo conta. E i fondatori di Helsing sostengono che il loro software può dare agli eserciti occidentali un vantaggio informativo. Il loro sistema, affermano, aiuterà i soldati a prendere decisioni più veloci e meglio informate e sarà accessibile su una varietà di dispositivi, in modo che i soldati nelle trincee di fronte possano vedere le stesse informazioni dei comandanti nei centri di controllo. “Ora, tutto questo viene fatto manualmente: telefonate, lettura, disegno su mappe”, dice Köhler. “Capire quanti sistemi ci sono, cosa stanno facendo, qual è la loro intenzione, questo è un problema di intelligenza artificiale”.
Helsing non è la prima azienda a cercare di creare un sistema operativo per la guerra. I militari sostengono l’idea fin dagli anni ’90. Ma le tradizionali società di difesa hanno faticato a consegnare, creando un’opportunità per le aziende tecnologiche di intervenire. La società con sede in California, Anduril, lanciata da Palmer Luckey, cofondatore di Oculus, ha sviluppato un software che collega diversi sistemi militari. E Palantir, con sede in Colorado, ha utilizzato la guerra in Ucraina per rilasciare dettagli sul proprio sistema AI militare. Ma Helsing è l’unica startup europea visibile che realizza questo tipo di software. Gli esperti dicono che ciò che è notevole dell’azienda è il modo in cui mappa lo spettro elettromagnetico, lo spazio invisibile in cui diverse macchine inviano segnali elettronici per comunicare tra di loro.
- Le elezioni in Spagna mettono i lavoratori precari contro l’e...
- Non chiedere a robot stupidi se l’IA distruggerà l’umanità
- Una memo trapelata mostra che TikTok sa di avere un problema di lavoro
“Utilizzare applicazioni di intelligenza artificiale per aiutare ad analizzare quale parte della frequenza dello spettro elettromagnetico utilizzare e quale parte disturbare, è una tecnica estremamente potente”, afferma Ben Jensen, senior fellow per la guerra futura presso il Center for Strategic and International Studies, un think tank.
Il fatto che Helsing sia disposta a mostrarmi la sua tecnologia riflette quanto siano cambiate le attitudini attorno all’industria della difesa in Europa durante i due anni di esistenza dell’azienda. Quando il fondatore di Spotify, Daniel Ek, ha investito 100 milioni di euro (109 milioni di dollari) in Helsing nel 2021, lo stesso anno in cui l’azienda è stata lanciata, molti utenti di Spotify hanno espresso indignazione per il fatto che i loro soldi di abbonamento venivano utilizzati per finanziare l’industria bellica. Ma questo era prima dell’invasione a pieno titolo della Russia in Ucraina nel febbraio 2022, che ha provocato una ricalibrazione delle attitudini pubbliche verso la difesa.
Oggi, miliardi di dollari di aiuti militari stanno fluendo dai paesi europei verso l’Ucraina. La spesa militare nel continente è aumentata ai “livelli della Guerra Fredda” nel 2022, registrando la più alta crescita annuale degli ultimi 30 anni, secondo l’istituto di ricerca per la pace di Stoccolma. Il capitale di rischio sta seguendo la stessa tendenza, con un finanziamento per la tecnologia della difesa nel Regno Unito che è raddoppiato dal 2021 al 2022, da 500 milioni di euro (550 milioni di dollari) a 1 miliardo di euro, secondo i dati di PitchBook condivisi con WIRED.
“Sarebbe stato facile scoraggiarsi all’inizio”, dice Reil. Prima della guerra, la gente gli diceva che sarebbe stato difficile raccogliere fondi per la tecnologia della difesa e che non sarebbe riuscito a ingaggiare il talento di cui aveva bisogno: i migliori ingegneri non lavorano per la difesa. “Non è affatto stato così”.
Helsing ha attualmente 220 dipendenti distribuiti in quattro uffici: a Londra, Parigi, Berlino e Monaco. Ciò non significa che sia stato facile assumere ingegneri. Köhler descrive un processo di selezione che sembra più una discussione sulle motivazioni dell’industria della difesa: “La maggior parte delle persone ha un pregiudizio leggermente negativo nei confronti del settore, soprattutto prima dell’Ucraina”. Köhler lo capisce. Anche lui era scettico, dice, un atteggiamento che attribuisce in parte alla sua esperienza di vita in Germania, dove il militare evoca associazioni scomode con il passato nazista del paese. “In Germania, l’opinione pubblica è ancora peggiore che nel Regno Unito”. Se le opinioni sull’industria della difesa sono cambiate in Europa, in Germania si sono trasformate. Per anni, il paese ha resistito alle pressioni degli Stati Uniti per aumentare la spesa per la difesa. Quattro mesi dopo l’invasione russa, il parlamento tedesco ha approvato una ristrutturazione militare da 100 miliardi di euro.
La Germania è solo uno dei paesi con cui Helsing ha contratti militari, insieme a Francia e Regno Unito. E dopo l’invasione russa dell’Ucraina, l’azienda ha anche firmato accordi di partnership con alcuni dei più consolidati contractors della difesa europea, come Rheinmetall e Saab, per integrare l’intelligenza artificiale nei sistemi d’arma esistenti. Reil descrive Helsing come “molto coinvolta” nella guerra in Ucraina, anche se si rifiuta di condividere dettagli su cosa l’azienda stia facendo lì, dicendo solo che il personale viaggia regolarmente avanti e indietro. Quando WIRED ha chiesto a un funzionario del governo ucraino – che ha chiesto di non essere citato perché non autorizzato a parlare pubblicamente – di confermare che Helsing opera in Ucraina, ha detto di essere a conoscenza dei piani dell’azienda di “coinvolgersi” nel paese.
Lo slogan aziendale di Helsing è “AI al servizio delle democrazie”. Questo serve ad illustrare l’impegno dell’azienda a non vendere a governi autocratici come Russia e Corea del Nord, afferma Reil. Ma cosa conta come una democrazia? Quando chiedo se i fondatori venderebbero a paesi come Polonia o Ungheria – paesi all’interno dell’UE dove i governi hanno privato i giudici della loro indipendenza e represso i diritti LGBTQ – non ottengo una risposta.
Invece, questo slogan dice meno su ciò che l’azienda fa e di più su perché lo fa. Gli annunci di lavoro di Helsing sono ricchi di idealismo, chiedendo persone con la convinzione che “i valori democratici valgano la pena di proteggere”.
I tre fondatori di Helsing parlano dell’invasione russa della Crimea nel 2014 come di un campanello d’allarme che tutta l’Europa doveva essere pronta a rispondere all’aggressione russa. “Ero sempre più preoccupato che stessimo rimanendo indietro sulle tecnologie chiave delle nostre società aperte”, dice Reil. Questo sentimento è cresciuto quando, nel 2018, i dipendenti di Google hanno protestato contro un accordo con il Pentagono, in base al quale Google avrebbe aiutato l’esercito a utilizzare l’IA per analizzare le riprese dei droni. Più di 4.000 dipendenti hanno firmato una lettera sostenendo che era moralmente ed eticamente irresponsabile per Google aiutare la sorveglianza militare e i suoi potenziali esiti letali. In risposta, Google ha dichiarato che non avrebbe rinnovato il contratto.
“Semplicemente non capivo la logica”, dice Reil. “Se vogliamo vivere in società aperte e libere, essere ciò che vogliamo essere e dire ciò che vogliamo dire, dobbiamo essere in grado di proteggerle. Non possiamo darle per scontate”. Era preoccupato che se le Big Tech, con tutte le loro risorse, fossero state scoraggiate dal lavorare con l’industria della difesa, l’Occidente sarebbe inevitabilmente rimasto indietro. “Avevo l’impressione che se loro non lo facevano, se i migliori ingegneri di Google non erano pronti a lavorare su questo, chi lo avrebbe fatto?”
Di solito è difficile capire se i prodotti per la difesa funzionano come i loro creatori dicono. Le aziende che li vendono, inclusa Helsing, sostengono che sarebbe compromettere l’efficacia dei loro strumenti essere trasparenti sui dettagli. Ma mentre parliamo, i fondatori cercano di proiettare un’immagine di ciò che rende la loro intelligenza artificiale compatibile con i regimi democratici a cui vogliono vendere. “Diamo davvero molto valore alla privacy e alla libertà e non faremmo mai cose come il riconoscimento facciale”, afferma Scherf, sostenendo che l’azienda vuole aiutare le forze armate a riconoscere oggetti, non persone. “Ci sono certe cose che non sono necessarie per la missione di difesa”.
Tuttavia, l’automazione in un settore mortale come la difesa solleva comunque questioni spinose. Se tutto ciò che i sistemi di Helsing offrono è una maggiore consapevolezza del campo di battaglia che aiuta le forze armate a capire dove si trovano gli obiettivi, ciò non comporta problemi, afferma Herbert Lin, un ricercatore senior presso il Center for International Security and Cooperation dell’Università di Stanford. Ma una volta che questo sistema è in atto, crede che i decisori si troveranno sotto pressione per collegarlo a armi autonome. “I responsabili delle decisioni devono resistere all’idea di farlo”, dice Lin, aggiungendo che sono gli esseri umani, non le macchine, che devono essere responsabili quando si verificano errori. Se l’IA “uccide un trattore invece di un camion o un carro armato, è un problema. Chi sarà ritenuto responsabile?”
Riel insiste sul fatto che Helsing non produca armi autonome. “Noi facciamo esattamente il contrario”, dice. “Creiamo sistemi di intelligenza artificiale che aiutano gli esseri umani a comprendere meglio la situazione”.
Anche se gli operatori possono utilizzare la piattaforma di Helsing per abbattere un drone, al momento è una persona a prendere quella decisione, non l’intelligenza artificiale. Tuttavia, sorgono interrogativi su quanto autonomia abbiano realmente gli esseri umani quando lavorano a stretto contatto con le macchine. “Più gli utenti capiscono poco gli strumenti con cui stanno lavorando, più li trattano come magia”, afferma Jensen del Centro per gli Studi Strategici e Internazionali, sostenendo che questo significa che gli utenti militari possono fidarsi troppo o troppo poco dell’intelligenza artificiale.
Helsing ha testato modi per affrontare tali preoccupazioni. “Tutti parlano del ruolo dell’essere umano nel processo decisionale”, dice Reil, facendo riferimento al termine utilizzato per descrivere i sistemi che garantiscono che la decisione finale sia presa dalle persone e non dalle macchine. Ma Helsing cerca di assicurarsi che queste persone non siano solo “coinvolte” ma anche impegnate, non distolte o sopraffatte dalle informazioni, aggiunge. L’azienda fa ciò costruendo pause nel sistema in modo che l’operatore non risponda solo alle sollecitazioni come se fosse in modalità automatica. Invece, il sistema di Helsing crea un momento per gli operatori di riflettere sulle informazioni che gli sono state fornite e chiede loro: sei sicuro di voler seguire la raccomandazione dell’intelligenza artificiale?
Il successo di Helsing finora, misurato dalla sua capacità di ottenere contratti e assumere personale, è legato a un cambiamento di atteggiamento in Europa. E per il momento, sembra che l’idealismo della Silicon Valley che sta introducendo nel settore difensivo locale stia funzionando. Quando l’azienda è stata lanciata, afferma Reil, era preparato al fatto che molte persone non sarebbero state d’accordo con ciò che stava cercando di fare. Ma anche lui è rimasto sorpreso da quanto siano cambiate le opinioni. “Il pendolo si è spostato quasi completamente dall’altra parte”, dice.
CORREZIONE 20/07 10:40 ET: Questo articolo è stato aggiornato per specificare che sia Torsten Reil che Gundbert Scherf sono ora co-amministratori delegati (co-CEO).
