in evidenza
AI: Seek & Destroy
L’industria delle armi autonome
Di Laura Carrer, Davide Del Monte, Andrea Daniele Signorelli
Questa ricerca nasce dall'urgenza di provare a decifrare e, quindi, spiegare una trasformazione epocale nella natura dei conflitti contemporanei, dove l’utilizzo dell'intelligenza artificiale non rappresenta più una mera speculazione futuristica, ma una realtà operativa e diffusa.
Ci troviamo ormai ben oltre il confortevole perimetro della prima legge di Asimov, secondo cui “un robot non può recar danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno”, per entrare a tutta velocità in una sorta di seconda “Epoca Oppenheimer".
Una corsa globale agli armamenti in cui il salto qualitativo non risiede più solo nella potenza di fuoco resa disponibile agli eserciti umani, ma nella capacità delle macchine di interpretare contesti e operare scelte probabilistiche su chi, dove e quando colpire.
La motivazione profonda di questo lavoro è dunque quella di fornire ai lettori e alle lettrici una mappa, il più esaustiva possibile, della fitta rete di soggetti che si muovono nel settore della ricerca, dello sviluppo, della produzione e infine della commercializzazione di armi autonome.
Allo stesso tempo, siamo mossi dalla speranza di fornire a giornalisti e giornaliste, ricercatori e ricercatrici, dei nuovi strumenti analitici e dati necessari per riprendere, continuare e migliorare la mappatura che abbiamo qui cominciato a delineare.
Come ci si accorgerà avanzando nella lettura, gli attori che affollano questo nuovo mercato sono infatti tanti e complessi, spesso poco o per nulla trasparenti.
Il percorso di lettura si snoda attraverso cinque capitoli che analizzano lo sviluppo del settore delle armi autonome e la conseguente metamorfosi “dell’arte della guerra” da diverse angolazioni:
Nel primo capitolo analizziamo la genesi e forniamo la definizione, o per meglio dire, le definizioni, dei sistemi d'arma autonomi (LAWS), tracciando il passaggio dai rudimentali siluri del passato ai moderni sistemi guidati in piena autonomia dall’intelligenza artificiale.
Autonomia che nel corso degli ultimi anni si è spostata dalla capacità di identificare e colpire i bersagli, fino al dominio della decisione, evidenziando come l’intelligenza artificiale abbia di fatto scalato le gerarchie militari, con la promessa di dissipare la "nebbia della guerra", ma introducendo allo stesso tempo rischi etici che non hanno precedenti.
Il secondo capitolo ci porta sui campi di battaglia in Ucraina, Gaza, Iran e Libano, utilizzati come laboratori per l'integrazione di sistemi di sorveglianza, infrastrutture cloud e algoritmi di targeting.
Esaminiamo casi emblematici come i software Lavender e Gospel, descritti come vere e proprie "fabbriche di assassinio di massa", dove il controllo umano viene ridotto a una mera ratifica procedurale di pochi secondi.
Nel terzo capitolo rivolgiamo lo sguardo al contesto europeo, dove il settore della cosiddetta defense tech ha superato i vecchi tabù degli investitori, diventando in grado di attrarre enormi flussi di denaro.
Esploriamo il ruolo dei nuovi "unicorni" della difesa, tra cui Helsing e la finlandese ICEYE, che promettono soluzioni agili e veloci per l'autonomia strategica del continente, sostenuti da una combinazione di capitali privati e fondi NATO.
Il quarto capitolo ruota attorno al concetto di "nuovo Leviatano", ovvero il processo di ibridazione tra industria estrattiva, colossi tecnologici e apparati militari.
Cerchiamo qui di ricostruire la catena di fornitura che, partendo dalla materia prima grezza arriva fino al sistema di intelligenza artificiale in grado di individuare, identificare ed eliminare il nemico.
Analizziamo come, da una parte, gli storici fondi di investimento agiscano da sistema nervoso centrale, detenendo il controllo di fatto dell'intera catena di fornitura, ma come dall’altra parte si sia di fatto sviluppata un’industria alternativa che vi si contrappone, costituita da decine di start-up con approcci di business radicali e foraggiate dai fondi di venture capital senza scrupoli.
Infine, nell’ultimo capitolo approfondiamo il supporto al settore delle armi autonome da parte dell'Unione Europea, attraverso il Fondo Europeo per la Difesa (EDF), e il ruolo sempre più centrale e controverso delle università pubbliche.
Raccontiamo come la militarizzazione della ricerca accademica, dove il confine tra usi civili e militari delle tecnologie (dual-use) diventa sempre più labile, stia alimentando forti tensioni etiche negli atenei, mettendo alla prova l'indipendenza dei ricercatori e la missione stessa dell’università.
Attraverso questa mappatura non intendiamo solo raccontare in maniera critica una nuova tecnologia e le problematiche etiche e morali più evidenti che si trascina dietro, ma proviamo a interrogarci sull'architettura di potere che sta alla base di questa tecnologia, capace di ridisegnare gli equilibri di potere a livello globale e di creare nuovi, enormi, rischi per tutta l’umanità.