CHE COS'È UN ARMA AUTONOMA?

È un elemento che cambia la situazione e ci costringe a fare i conti con uno scenario in cui questi strumenti bellici sono in dotazione e vengono utilizzati da un numero sempre crescente di attori. A questo punto, è inevitabile affrontare un tema tanto cruciale quanto complesso: che cos’è un’arma autonoma? Che cosa si nasconde dietro a soprannomi come “killer robots” o a sigle come LAWS (lethal autonomous weapons systems, “sistemi bellici letali e autonomi”)? Secondo la campagna internazionale Stop Killer Robots, le armi autonome sono sistemi che “selezionano e affrontano gli obiettivi senza un significativo controllo umano”.

Il problema di individuare una definizione univoca ed esaustiva di questi sistemi è però uno dei più complessi da affrontare: “Non abbiamo una sola definizione di arma autonoma ed è anche molto difficile trovarla, come d’altra parte vale per il concetto stesso di intelligenza artificiale”, conferma Guglielmo Tamburrini, docente di Logica e Filosofia della Scienza all’Università degli Studi di Napoli Federico II. “Alcune delle definizioni usate potrebbero comprendere, per esempio, anche le mine antiuomo; mentre in altri casi verrebbero esclusi sistemi che invece devono necessariamente rientrare, com’è il caso per esempio dell’Iron Dome, lo scudo missilistico israeliano, o quelli che difendono le unità militari dall’artiglieria in arrivo, che hanno carattere prettamente difensivo e la cui messa al bando in quanto sistemi autonomi andrebbe anche contro caratteri di principio umanitario”.

Una nuova auspicata regolamentazione internazionale, per essere efficace, dovrà inoltre vedere non solo l’adesione del maggior numero possibile di stati, ma anche permettere di verificare chi non rispetta le norme concordate e di far scattare delle relative sanzioni. “Un altro aspetto complesso è il problema della verifica”, prosegue Tamburrini. “Mentre, per esempio, gli impianti nucleari protagonisti di un accordo come START sono visibili ai satelliti, nel caso delle armi autonome bisognerebbe trovare accordi tecnicamente complicati, in cui un’agenzia esterna possa avere accesso alle tracce di esecuzione dei software”.

Prima di arrivare a questo punto, però, la strada da seguire è ancora molto lunga: da anni, la Convenzione delle Nazioni Unite su alcune armi convenzionali (CCW) formulata nel 1980 a Ginevra, sede principale di queste discussioni multilaterali relative alle armi autonome, è ferma su questioni di procedura e definizioni, mentre nel frattempo questi sistemi sono diventati realtà.

“Le difficoltà sono anche legate al fatto che, a oggi, si sono confrontate due posizioni così contrastanti che non è mai stato possibile creare un terreno d’incontro”, afferma Mariarosaria Taddeo. “Non può partire una negoziazione finché, banalizzando, da una parte c’è chi pensa che questi strumenti rispondano al principio di necessità e salvino la vita dei soldati e dall’altra chi invece sostiene che siano sempre e comunque immorali”. 

PROBLEMI ETICI E RESPONSABILITÀ

L’aspetto morale, quando si parla di armi autonome, è d’altra parte di cruciale importanza. È corretto cedere ad algoritmi che non richiedono necessariamente la supervisione umana decisioni relative alla vita e alla morte di persone? A tutto questo si aggiunge il fatto che anche le più evolute intelligenze artificiali commettono errori e potrebbero quindi non essere in grado di distinguere dei contadini da dei soldati. Inoltre, un operatore umano può decidere di evitare un attacco nel caso in cui, per esempio, gli obiettivi individuati si trovino di fianco a un ospedale o una scuola: un’intelligenza artificiale farebbe le stesse distinzioni? Sono soprattutto questi aspetti che hanno portato il Segretario Generale dell’ONU António Guterres a dichiarare che “le macchine autonome con la capacità di selezionare obiettivi e fare vittime senza il coinvolgimento degli esseri umani sono politicamente inaccettabili e moralmente ripugnanti”.

“Molti principi che regolano la cosiddetta ‘guerra giusta’ sono problematici per le armi autonome”, sostiene Tamburrini. “È vero che anche gli esseri umani non sono infallibili, ma hanno a loro disposizione tutta una serie di conoscenze di contesto per valutare le situazioni, per esempio nel caso in cui un combattente si arrenda con un gesto non convenzionale e non contenuto nel database dell’intelligenza artificiale”.

Vale sempre infatti la pena di ricordare che gli algoritmi di deep learning – oggi, di fatto, sinonimo di intelligenza artificiale – hanno esclusivamente la capacità di elaborare statisticamente le enormi quantità di dati utilizzati per il loro addestramento, imparando in maniera autonoma il comportamento che ha le maggiori probabilità di risultare corretto o adeguato. “Alcuni dei problemi principali riguardano l’impossibilità di prevedere con certezza il comportamento delle armi autonome; questa limitata predicibilità porta a violare alcuni principi della teoria della guerra giusta”, aggiunge Taddeo.

C’è poi un altro elemento: come tutti i sistemi basati su deep learning, anche le armi autonome possono facilmente essere soggette a discriminazioni nei confronti delle persone meno rappresentate all’interno del database (e sulle quali quindi l’addestramento dell’intelligenza artificiale non può che essere limitato). È per questa ragione che si ritiene che consentire a dei sistemi di prendere di mira delle persone significherebbe permettere a questi sistemi di rinforzare o esacerbare le esistenti strutture di disuguaglianza. I pregiudizi della nostra società vivono infatti nei nostri dataset, nelle nostre categorie, nelle nostre etichette e nei nostri algoritmi. Invece di superare questi limiti, il rischio è addirittura di incorporarli all’interno di armi.

Ulteriore tema fondamentale è quello della responsabilità: chi è responsabile di un errore commesso dall’arma autonoma? Secondo la legge, chi ordina un attacco militare dev’essere in grado di giudicare la necessità e la proporzionalità dello stesso. Di conseguenza, le persone – e non le macchine – devono essere responsabili; ma se il controllo sulle decisioni assunte da armi autonome è limitato, come si può considerare l’essere umano responsabile di ciò che è avvenuto?

CONTROLLO UMANO SIGNIFICATIVO

Proprio per rispondere a questi dilemmi si è introdotto il principio dello “human in the loop”, che prevede che sia sempre un essere umano a decidere da ultimo se – diciamo così – premere il grilletto. “In realtà non è sufficiente”, specifica Tamburrini. “Perché entriamo nelle complesse dinamiche di interazione tra essere umano e macchina. C’è per esempio la questione del machine bias: l’essere umano, quando è in disaccordo con la macchina e deve fermarla, può non fidarsi del suo giudizio, trovandosi inoltre ad agire nei confronti di una macchina che integra tantissime informazioni e le elabora a una velocità enorme. Ci vorrebbero non solo tempi adeguati, ma anche una formazione all’altezza”.

Per tutte queste ragioni, la campagna Stop Killer Robots chiede (1) un obbligo generale di mantenere un significativo controllo umano sull’uso della forza, (2) la proibizione di specifici sistemi d’arma che selezionano e affrontano gli obiettivi autonomamente e che per loro natura pongono fondamentali problemi morali e legali e (3) un obbligo specifico per assicurare che un controllo umano “significativo” sia mantenuto nell’uso di tutti gli altri sistemi che selezionano e affrontano gli obiettivi. 

L’uso di armi interamente autonome lede infatti la dignità umana, delegando decisioni di vita e di morte a macchine inanimate, che non possono comprendere il valore della vita umana. Di conseguenza, il controllo “significativo” richiede che l’essere umano abbia sempre le informazioni e la capacità di prendere decisioni relative alla legalità e alla moralità dell’uso della forza. Non è sufficiente che sia l’essere umano a decidere se l’arma infine attaccherà o meno: possedere un controllo significativo è invece una combinazione di tre componenti, relative alle capacità decisionali, alle componenti tecnologiche e alle componenti operative.

La campagna Stop Killer Robots chiede un nuovo trattato internazionale, che dia vita a uno strumento legalmente vincolante che vada oltre il “quadro normativo e operativo” proposto dagli stati che fanno parte della “Convenzione delle Nazioni Unite su alcune armi convenzionali” (CCW) delle Nazioni Unite. Il trattato proposto dovrebbe coprire tutti i sistemi che si affidano ai sensori, e non agli esseri umani, per identificare e agire contro bersagli che corrispondono a un profilo preprogrammato. Nonostante il trattato proposto riguardi un ambito ampio, le restrizioni riguarderebbero soltanto due categorie di sistemi d’arma: quella che inerentemente, ovvero per la sua progettazione più che per il suo utilizzo, solleva fondamentali problemi legali e morali e quella che potrebbe anche non essere inerentemente inaccettabile, ma può potenzialmente essere utilizzata senza un significativo controllo dell’essere umano. È una regolamentazione che – assicurando il rispetto dei criteri etici e mettendo al riparo da attribuzioni scorrette di responsabilità, errori e abusi – conviene a tutte le parti in campo.

Tra le aziende militari italiane, il nome di spicco è sicuramente quello di Leonardo, che ha raggiunto nel 2022 la dodicesima posizione mondiale nella classifica di DefenceNews, attestandosi come prima società del settore della difesa dell’Unione Europea e seconda nell’area continentale allargata, preceduta solo dall’inglese BAE. L’unica altra presenza italiana nella top 100 mondiale è quella di Fincantieri, leader mondiale nella costruzione di navi, anche militari.

L’importanza a livello globale del comparto industriale italiano nel settore della difesa va di pari passo con l’interesse e gli investimenti da parte di Governo e Parlamento.

Secondo i dati raccolti dallo Stockholm International Peace Research Institute (Sipri), l’Italia siede all’undicesimo posto nella classifica dei Paesi con la più alta spesa militare globale e al quarto posto se si guarda solo l’Europa, dove a guidare la classifica sono UK, Germania e Francia.

La legge di Bilancio approvata dal Parlamento il 29 dicembre 2022 prevede una spesa militare stimata di 26,5 miliardi per il 2023, facendo registrare un aumento di 800 milioni rispetto all’anno precedente. Come rileva l’Osservatorio Milex, “a trainare l’aumento è il bilancio ordinario della Difesa che passa da 25,9 a 27,7 miliardi in virtù non solo dei maggiori costi del personale di Esercito, Marina e Aeronautica (oltre 600 milioni in più) ma delle maggiori risorse dirette destinate all’acquisto di nuovi armamenti: quasi 700 milioni in più”.

Nonostante l'impatto economico del COVID-19, il trend della spesa per la difesa nei Paesi NATO risulta in aumento. Anche l’Osservatorio CPI dell’Università Cattolica rileva come “negli ultimi quarant’anni, la spesa per la difesa in rapporto al Pil non ha subito grandi variazioni. Dopo essersi ridotta lievemente rispetto agli anni ’80-’90, è tornata a crescere nel biennio 2020-2021 sino all’1,22 per cento del Pil, con parte dell’aumento dovuto alla caduta del Pil e parte dovuto all’aumento della spesa”.

DIFESA E A.I. IN ITALIA

A Il Ministero della Difesa ha mostrato interesse già da diversi anni rispetto alle implicazioni (etiche, ma soprattutto operative e di risultato) derivanti dall’applicazione dell’intelligenza artificiale sui sistemi d’arma.

In audizione alla Camera dei Deputati, il 20 novembre 2018, il Segretario Generale della Difesa e Direttore nazionale degli armamenti Nicolò Falsaperna, rispondendo ad una domanda del deputato  Giovanni Russo, spiegava come fosse difficile fare previsioni sul reale sviluppo dei sistemi d’arma autonomi, ma che “certamente in questo settore la ricerca dovrà svolgere un ruolo chiave, e la Difesa si propone come facilitatore nei confronti delle piccole e medie imprese, ma anche delle grandi imprese, nello studiare come queste disruptive technologies possano influire non solo sul mondo della difesa, ma su tutto il sistema Paese”.

Una delle riflessioni probabilmente più interessanti sull’argomento la troviamo in un paper commissionato dal Centro Militare di Studi Strategici nel 2019 dal titolo “L’impatto dell’Intelligenza Artificiale (AI-Artificial Intelligence) sul ciclo di intelligence e sugli strumenti a disposizione per i pianificatori militari e le forze dell’ordine”. Gli autori affermano che “non è (...) impensabile che in futuro la pianificazione e la direzione dell’attività di Intelligence Militare non possa essere effettuata a valle di un processo di Data Analytics di tipo prescrittivo in cui sia una macchina, prima di intraprendere le azioni individuate come necessarie in relazione al raggiungimento di un determinato obiettivo, a chiedere ad un’altra macchina di avviare il ciclo di Intelligence definendo gli Elementi Essenziali di Informazione all’interno di un processo che ci piace ancora immaginare scandito dalle fasi logiche dell’approccio umano, ma che nella pratica sarà inevitabilmente senza cesure. In uno scenario tuttavia in cui i conflitti si risolveranno nel giro di pochi minuti, grazie al grado di autonomia raggiunto da alcuni sistemi d’arma, ciò che appare inverosimile è la capacità dell’uomo di entrare nel loop per le decisioni importanti e di uscirne mantenendo costantemente la consapevolezza della situazione”.

Il tema della differente velocità di reazione tra uomo e macchina ci pare particolarmente interessante.  Non è tanto la previsione di un possibile scenario in cui armi “intelligenti” ed autonome saranno in grado di pianificare ed eseguire compiti militari a preoccupare, quanto il problema che ciò comporterebbe: la velocità di pianificazione ed esecuzione della macchina si tradurrebbe nell’impossibilità degli uomini,  pur presenti nel ciclo di azione, di avere piena coscienza di ciò che sta per o potrebbe accadere.

In estrema sintesi, il principio del “man in the loop” potrebbe risultare troppo fragile a fronte di una diversa capacità di elaborazione di “pensiero e azione” tra macchina e uomo. A questo punto la domanda da porsi è se la macchina - e chi la programma ovviamente - accetterà di farsi rallentare dalla componente umana o se, come ad esempio in scenari particolarmente complessi, non si darà precedenza alla velocità d’esecuzione piuttosto che al principio di responsabilità umana dell’azione.

In ogni caso, ad oggi non risultano essere in dotazione all'Esercito italiano sistemi d’arma con capacità di azione autonoma. Il Ministero della Difesa, in risposta ad una nostra richiesta di accesso (FOIA) in merito afferma che “tale tipologia di sistema, ad oggi, non risulta essere stato oggetto di contratti stipulati dalle competenti Articolazioni della Difesa, né di alcun mandato ricevuto dai relativi Organi Programmatori”.

La strada appare comunque segnata, e va nella direzione di sempre più cospicui investimenti per la ricerca e lo sviluppo di tecnologie belliche, se non completamente autonome, dotate di avanzati sistemi di intelligenza artificiale. Anche il richiamo della Commissione Difesa della Camera dei Deputati, nel parere approvato il 10 marzo 2021 sul Piano Nazionale di Ripresa e Resilienza, suffraga questa tesi: il parere si apre infatti con l’esplicita richiesta di tenere “presente l'esigenza di valorizzare il contributo a favore della Difesa sviluppando le applicazioni dell'intelligenza artificiale”.

Se, come vedremo, diverse componenti dell’Esercito italiano appaiono entusiaste delle prospettive di sviluppo che l’intelligenza artificiale offre in campo bellico, il comparto industriale, almeno a parole, risulta per il momento molto più cauto.

Da un’analisi dei siti internet e dei documenti di governance di alcune delle maggiori aziende italiane produttrici di armi si evince come il tema dello sviluppo di armi autonome e dell’utilizzo dell’intelligenza artificiale sia al momento approcciato con molta attenzione e discrezione. Leonardo, ad esempio, nel Bilancio di sostenibilità del 2019 sottolinea l’impegno dell’azienda ad aderire agli standard riconosciuti Human-on-the-loop (HOTL) e Human-in-the-loop (HITL) per assicurare che l’utilizzo di sistemi d’arma autonomi in condizioni critiche per la sicurezza delle persone sia soggetto a supervisione e controllo dell’uomo.

L’amministratore delegato di Leonardo, Alessandro Profumo, durante un importante evento organizzato dalla Marina Militare ha però tenuto a sottolineare come l'azienda sia partner naturale nella trasformazione della Difesa e della Marina perché “protagonista dell'evoluzione multi-domain in ogni singolo dominio: mare, cielo, terra, cyber-spazio. La società italiana realizza, infatti, una serie di sistemi molto importanti in chiave multidominio: si va dalle piattaforme (manned, unmanned ed optionally manned) ai sensori, dai sistemi di comando e controllo/comunicazione/trasmissione alle capacità di Intelligenza Artificiale, dall'automazione e all'elaborazione dei dati e alla conservazione/gestione delle informazioni. Leonardo, quale "campione nazionale " della Difesa, ha l'esigenza di presidiare le tecnologie strategiche per la sicurezza del Paese”.

Engineering Ingegneria Informatica, capogruppo del Gruppo Engineering, formato da oltre 20 aziende in 12 Paesi, già nel 2017 nel suo Report di sostenibilità metteva in guardia sui rischi legati all’applicazione dell’AI nel sistema degli armamenti. “Le applicazioni più importanti in ambito governativo sono quelle nel settore dell'intelligence (es. indagini fiscali), e nel settore militare, con sistemi d'arma sempre più avanzati e autonomi” si può leggere a pagina 93 nel capitolo “Artificial intelligence: paradigm shifts for businesses and communities”, a cura di Matteo Temporin.  “L'approccio è ciò che conta di più: poiché i prodotti e i servizi si evolvono molto rapidamente, dobbiamo essere preparati alla continua evoluzione degli strumenti di intelligenza artificiale e alla rapida obsolescenza delle scelte che si stanno facendo ora. Infatti, mentre i vantaggi delle nuove applicazioni possono essere generalmente molto significativi in ​​ogni fase della loro evoluzione, anche la concorrenza potrebbe beneficiarne e conquistare rapidamente la leadership di mercato”.

Secondo Marco Orlandi, Direttore Tecnico di Iveco Defence Vehicle, intervenuto al workshop Future Naval Combat System 2035, organizzato il primo luglio 2021 dalla Marina Militare e dedicato agli scenari ed ai domini delle operazioni militari del futuro, “sarà necessario stabilire una policy per le regole di ingaggio dei sistemi autonomi: è infatti improbabile che l'introduzione di sistemi di IA possa risolvere questa problematica”.

Il mercato dell'innovazione tecnologica in campo bellico fa gola anche a società storicamente appartenenti ad altre sfere industriali, come ad esempio Saipem, che seppur "entrata da poco nel settore militare si candida quale fornitore della Marina Militare nel campo dei droni sottomarini, in virtù della notevole tecnologia robotica e dei numerosi building block di cui dispone, elementi che potrebbero costituire il fulcro dei sistemi robotici di domani”. 

L’Esercito italiano sembrerebbe invece meno preoccupato delle conseguenze etiche e più interessato al vantaggio che armamenti “intelligenti” o addirittura autonomi possono garantire sul campo di battaglia. 

Il Capitano di Vascello Enrico Vignola, Capo Ufficio Innovazione Tecnologica della Marina Militare, durante l’evento Future Naval Combat System 2035, ha dichiarato che “sarà fondamentale il ricorso a sistemi avanzati di Modelling & Simulation (per il training, la manutenzione e molto altro), mentre sarà altrettanto cruciale l'impiego dei satelliti nelle operazioni expeditionary. Inoltre, una serie di nuove tecnologie, quali l'unmanned, l'armamento hypersonico e ad energia diretta, l'Intelligenza Artificiale, i computer ed i sensori quantistici, saranno assolutamente fondamentali”. 

Ancora più esplicito il Capitano di Vascello, Vice Capo Reparto Anfibio di SMM, De Rosa, che ha affermato come “in futuro i sistemi d'arma autonomi saranno una delle chiavi di volta per acquisire una certa superiorità sull'avversario, un elemento fondamentale per avere successo”.

I PRINCIPALI INVESTIMENTI PUBBLICI

Come in molti altri settori, anche la Difesa svolge attività di ricerca scientifica e tecnologica. Il segretariato generale della difesa si occupa di unire realtà pubbliche e private nazionali in vario modo per lo sviluppo del settore dell’alta tecnologia, utile a rendere fattibili programmi di sviluppo di materiali di armamento futuri. In pochi sapranno però che lo stesso segretariato svolge anche una funzione di recepimento e di coordinamento di proposte di progetti provenienti da vari attori come le università, i centri di ricerca, le aziende, che inserisce poi all’interno del Piano nazionale di Ricerca Militare (PNRM).

Ogni anno il segretariato apre alla presentazione delle proposte di progetto attraverso una piattaforma online. Il valore economico per ogni progetto presentato non può superare il milione di euro, ma la Difesa può arrivare a cofinanziare fino al 50% dell’importo di ricerca. La commissione che valuta ogni progetto di ricerca, che andrà poi a far parte del PNRM, è composta da 3 rappresentanti del quinto reparto del segretariato generale della Difesa, da un rappresentante di un altro reparto o un esperto esterno appartenente all'università o a un ente pubblico di ricerca, e infine un rappresentante del quarto reparto dello stato maggiore della Difesa (Ufficio ricerca e sviluppo). 

Nel caso in cui un progetto presentato sia accettato, viene stipulato un contratto che prevede riunioni con cadenza almeno bimestrale, resoconto del progetto ogni quattro mesi, sintesi dell’attività svolta e prevista (per i precedenti e i successivi quattro mesi), eventuali criticità riscontrate. A fine progetto le direzioni tecniche e la direzione generale del segretariato generale della Difesa inviano al quinto reparto un resoconto per ogni progetto accettato e inserito nel PNRM, che consiste nella stesura di un report finale che contiene informazioni divulgabili e un report invece contenente informazioni riservate e valutazioni ex post. La divulgazione degli esiti della ricerca militare è un tasto dolente, sia per via delle informazioni che derivano da questa tipologia di ricerca, sia perché la loro disseminazione non ha standard precisi come invece la ricerca accademica. 

Per quanto riguarda invece il PNRM 2023, il quinto reparto del segretariato generale ha risposto alla richiesta di accesso civico generalizzato (FOIA) informando che “l’iter procedimentale finalizzato alla selezione delle proposte progettuali che saranno ammesse al finanziamento non si è ancora concluso” e pertanto queste informazioni non sono ancora condivisibili. 

In ogni caso è proprio il regolamento della ricerca militare a parlare di trasparenza e riservatezza, dicendo che attraverso la legge n.15 del 2005 è stata “affievolita l'opponibilità del segreto”. Quindi, in sostanza, i documenti riassuntivi e generici inerenti i progetti presenti nel PNRM dovrebbero essere in via di principio accessibili.

Ad aggiungersi al PNRM ci sono anche progetti di ricerca tecnologica svolti nei centri di test della Difesa, gli Accordi quadro stipulati con le università e gli enti di ricerca, e i programmi internazionali portati avanti in ambito Unione europea e Nato, che vedremo successivamente. Il mondo accademico e dei centri di ricerca governativi non militari (come il CNR o l’Agenzia nazionale per le nuove tecnologie, l'energia e lo sviluppo economico sostenibile ENEA) è parte fondamentale della sinergia tra mondo militare e mondo industriale, e questo è il motivo per il quale sono state poste in essere numerose iniziative per attivare collaborazioni tra ministero della Difesa e Ministero dell’Università e della Ricerca (in precedenza MIUR). Nel regolamento interno per la ricerca militare in campo nazionale, il segretariato generale del ministero della Difesa dice chiaramente che “alla ricerca di base, tipicamente attestata presso le strutture civili (CNR, università, ENEA), corrisponde un’elevata probabilità di ottenere un’innovazione radicale, ovvero la creazione di qualcosa di completamente nuovo, in grado di cambiare le cosiddette regole del gioco. 

Nel Piano Nazionale della Ricerca (PNR) 2021-2027 pubblicato dal Ministero dell’Università e della Ricerca si parla infatti chiaramente di velivoli autonomi. Nell’ambito dell’aerospazio si chiarisce come “i sistemi unmanned costituiscano una delle innovazioni più radicali degli ultimi anni in aeronautica”. Per questo motivo il Dicastero, in totale allineamento con il settore Difesa, prevede la maturazione futura di tecnologie come i sensori per la navigazione autonoma, sistemi di controllo avanzati (

fault tolerant, ovvero tolleranti ai guasti), sistemi di guida autonoma che permettano di evitare collisioni e adoperati per la sorveglianza; sistemi di comunicazione per velivoli autonomi; tecnologie per l’integrazione di velivoli unmanned nello spazio aereo; volo in formazione e sciami di velivoli autonomi e via dicendo. Da questo elenco è chiaramente possibile affermare che il futuro della ricerca sarà focalizzato nel rendere sempre di più l’essere umano un cervello a capo di un sistema robotico, il braccio.

I PRINCIPALI PROGETTI DI RICERCA ITALIANI

Da alcuni anni il Segretariato Generale sta seguendo con grande attenzione innovazioni radicali soprattutto per lo sviluppo del cosiddetto 5° dominio, ovvero quello cyber, o di armi di nuova concezione (tra gli altri vengono citati i proiettili guidati, gli sciami di robot e la cifratura quantistica). Considerazione di particolare interesse è quella riferita alla difficoltà di individuare un confine netto tra mondo civile e mondo militare: “esiste un continuum dovuto sia alla presenza delle medesime tecnologie nei due mondi, sia alla globalizzazione che ha reso trasversale e multilivello la minaccia alla sicurezza ed alla libertà dei cittadini italiani e delle loro proprietà in Italia e all’estero”, si legge nel regolamento interno per la ricerca militare in campo nazionale. 

Nonostante il Ministero della Difesa abbia dichiarato di non utilizzare sistemi d’arma autonomi, né che vi sia traccia di contratti stipulati con questo oggetto dalle competenti articolazioni della Difesa, nella risposta alla richiesta di accesso civico generalizzato (FOIA) rientrano alcune informazioni interessanti provenienti da direzioni specifiche all’interno del dicastero.

Da quanto sappiamo grazie alle informazioni fornite in risposta al FOIA inoltrato, che riguardava tutti gli investimenti che il Ministero aveva messo sul piatto sia nel biennio 2020-2022, sia quelli previsti dalle linee di bilancio relative al 2023, da alcuni anni il ministero finanzia studi, ricerche e prototipi di sistemi a pilotaggio remoto soprattutto con l’intenzione di pattugliare, effettuare ricognizioni, sorvegliare e contrattaccare eventuali nemici. La direzione degli armamenti aeronautici e per l’aeronavigabilità ha fornito alcune informazioni circa i progetti di ricerca e sviluppo tecnologico afferenti i sistemi d’arma automatici o a pilotaggio remoto: sono dieci progetti con i quali, dal 2012 in poi, il Ministero si è impegnato a realizzare velivoli UAV, in sciame o singoli, dotati di apprendimento statistico, identificazione automatica di bersagli, capacità di sorveglianza di aree prestabilite, missioni vere e proprie.

Progetti di ricerca e innovazione che da dieci anni il Ministero della Difesa porta avanti insieme ad aziende e università nazionali. Stando al Documento programmatico di difesa pluriennale (2021-2023), la ricerca militare gode di uno stanziamento sul bilancio ordinario della Difesa di più di 48 milioni di euro per l’esercizio finanziario 2021 e 2022, e di 40 milioni per quello del 2023. Ovviamente la ripartizione dei fondi nazionali può variare sulla base delle priorità operative del settore Difesa, ma è certo come anche questo settore sia orientato ad un utilizzo sempre maggiore di tecnologie cosiddette disruptive, ovvero dirompenti sia in termini di mercato sia di avanzamento tecnologico. Ciò si nota in maniera evidente nei criteri, stabiliti dal capo di Stato maggiore della Difesa, con i quali sono stati selezionati i progetti nazionali per l’anno 2020. I cluster di indirizzo erano: 

• cluster 1: tecnologie innovative di Intelligence Surveillance Reconnaissance (ISR) e distribuzione informazioni, per mezzo di innovativi sistemi di Comando e Controllo;
• cluster 2: sistemi autonomi, artificial intelligence, navigation safety and security e relativa sensoristica, sistemi autonomi di armamento;
• cluster 3: tecnologie satellitari, anche in ottica dual use;
• cluster 4: cyber security, crittografia e Big Data analysis;
• cluster 5: potenziamento capacità e protezione del soldato/supporto al veterano;
• 
  
• 
  
• cluster 6: tecnologia per la Difesa – sensori, dispositivi, sistemi d’arma, munizionamento e materiali innovativi;
• cluster 7: tecnologie per la sostenibilità, la resilienza energetica e le infrastrutture critiche.
• 
  
• 
  

Tarpa: technologies for armed remote piloted aircraft (Class MTOW 1000kg) è un progetto iniziato presumibilmente nel 2015, ed è inserito all’interno del Piano Nazionale di Ricerca Militare. L’obiettivo, si legge nell’allegato inviato dallo Stato maggiore della Difesa, “è quello di sviluppare una piattaforma dimostrativa per portare a maturazione delle tecnologie abilitanti per un velivolo a pilotaggio remoto (APR) della classe fino a 1000kg di MTOW (Maximum Take Off Weight) con carico utile fino a 500kg, predisposto anche per il volo automatico, con tecnologie tutte italiane finalizzato sia al monitoraggio aereo sia su terra che su mare sia per rispondere in completa autonomia alle diverse esigenze della sicurezza nazionale inclusa la possibilità di interventi mirati al suolo con munizionamento a gravità guidato”. Il costo totale del progetto è di € 5.302.810, diviso in tre fasi e coincidenti con gli anni 2015, 2017, 2020. Proponenti sono Magnaghi Aeronautica, azienda da sempre al fianco dell’aeronautica militare italiana, un’impresa di ingegneria e innovazione del gruppo Fincantieri (IDS), Finmeccanica, Oto Melara (chiusa nel 2015 e poi confluita in Leonardo) e Umbra Cuscinetti. 

Hawk: hunter airborne warfare killer è un progetto iniziato nel 2017. L’obiettivo portato avanti dall’Istituto per la microelettrica e i microsistemi del CNR e da Information technologies service in una associazione temporanea di scopo (ATS) è quello di studiare e realizzare un prototipo di jammer, un disturbatore di frequenze, di dimensioni molto ridotte e utilizzabile su velivoli UAV per contrastare le minacce provenienti da altri velivoli simili ostili. Con questa soluzione, si legge nel file inviato dalla Direzione degli armamenti aeronautici e per l’aeronavigabilità al FOIA inoltrato, “la ricerca e la distruzione dell’UAV nemico verrebbe condotta lontano dal sito da difendere”. Una capacità, si legge ancora, “che non si limita alla missione prospettata dalla presente proposta, ma si può e deve estendere ad altre missioni di combattimento più complesse, iniziando dall’electronic Warfare a tutto tondo, fino a missioni che coinvolgono unmanned combat aerial vehicles (UCAV) contro UAV ostili”. L’attività svolta da questo progetto è considerata dal Dipartimento della Difesa come primo concreto sviluppo in questa direzione, con un budget totale di € 2.495.403 diviso in tre fasi e di cui l’ultima non è ancora iniziata. 

Frai: future remotely piloted air system air traffic insertion è datato 2018 e si è concluso in tempi recenti, nel febbraio 2022. Sviluppato da Leonardo insieme alla divisione elicotteri di Finmeccanica, ha un valore di € 233.603 e aveva l’obiettivo di implementare ancor di più gli aerei a pilotaggio remoto militari (RPAS) al fine di consentire agli aerei civili di transitare in modo controllato e sicuro in spazi aerei civili. 

Magics: manned unmanned ground interoperable control station è in fase di sviluppo dal 2020 e prevede lo studio, la progettazione e lo sviluppo di un sistema di controllo in grado di abilitare l’interazione cooperativa ed intelligente tra piattaforme pilotate e non. In questo caso “tecnologie di intelligenza artificiale permetteranno di configurare lo sciame di droni e i relativi sensori in maniera automatica e in funzione degli obiettivi della missione” si legge nell’allegato. A sviluppare Magics sono Sky Eye System, un’azienda pisana nata nel 2017, e Interconsulting srl, per un valore totale di € 1.180.648 in due fasi. Non ci sono ulteriori informazioni specifiche e tecniche in merito al progetto e al suo sviluppo. 

Nais: Artificial intelligence per sciami di droni è sviluppato da Nurjana Technologies, azienda sarda nata a Elmas nel 2012 come organizzazione dedita al settore della difesa. Lo studio e lo sviluppo sono finanziati con un totale di € 865.551, che in due fasi serviranno a “sviluppare un modulo per on-board sensor processing dotato di algoritmi di machine learning e intelligenza artificiale che migliori efficacia e efficienza di missioni cooperative autonome avanzate di droni”. Attraverso l’apprendimento statistico il sistema potrà quindi “svolgere diversi task richiedendo solo il minimo intervento dell’operatore, come missioni di search and rescue, identificazione automatica di bersagli, sorveglianza di aree prestabilite”. Nella relazione preliminare e determinazione a contrarre stilata nel luglio 2020 dal 2° reparto, 4° divisione della Direzione armamenti aeronautici e per l’aeronavigabilità, si legge come “al fine di rendere il progetto quanto più possibile maturo e rispondente ai requisiti di interesse per l’A.D., il fornitore suggerisce di poter usufruire di dati reali provenienti da sensori ottici/camere raccolti in contesto operativo di missione (ad esempio filmati ottenuti da camere a bordo di UAV in dotazione dell’A.D.) per testare e applicare gli algoritmi sviluppati direttamente sulle sorgenti di informazione candidate ad essere le principali fonti di input del modulo in argomento”. Al momento è in fase di esecuzione solo la prima parte del progetto, per un totale di spesa di € 91.500 per il 2020 e € 366.000 per il 2021.

E-pteron: nel 2012 il segretariato generale ha avviato un progetto per lo sviluppo di un velivolo a pilotaggio remoto di medie dimensioni, in grado di decollare ed atterrare in verticale. Come in altri casi, il velivolo serve a svolgere missioni di pattugliamento, ricognizione e sorveglianza. Al centro del progetto, della durata di 7 anni (dal 2013 al 2020), la Seconda Università degli Studi di Napoli, l’Università degli Studi di Napoli “Federico II” e il consorzio CREATE (del quale fanno parte i due atenei già citati insieme alle università di Cassino e Reggio Calabria). Quattro fasi di progetto per un totale di € 1.527.667. Come già detto e come vedremo in seguito le università hanno un peso molto importante nello sviluppo di innovazione tecnologica per il settore della Difesa.

La direzione degli armamenti terrestri ha risposto alla richiesta di accesso civico generalizzato (FOIA) fornendo elementi informativi in merito ai contratti che ha stipulato per progetti di ricerca all’interno del PNRM, che riguardano sistemi di guida autonoma di veicoli terrestri. Sono quattro e uno di questi è unicamente a fini di studio, mentre i restanti contemplano anche una prototipazione. I più interessanti ai fini di questo studio sono quelli che coinvolgono le università e che riguardano applicazioni di tecnologie semi-autonome o autonome su macchine e veicoli già in dotazione alle forze armate. Il Politecnico di Milano è stato inserito all’interno del progetto per la costruzione di VTLM-OU, optionally unmanned, proposto al Dicastero della Difesa da Iveco Defence Vehicles S.p.a (società che produce veicoli per la difesa e la protezione civile). Parliamo di un mezzo blindato leggero di nuova generazione principalmente utilizzato dall’Esercito italiano, dove è denominato VTLM Lince, e dall’esercito britannico (Panther CLV).

Diviso in tre fasi, di cui solo la prima è in fase di finanziamento per € 1.463.211 (e le altre due sono opzionali, come spesso accade in questi investimenti), il progetto mira a “rendere teleoperabile un veicolo terrestre adatto all’esplorazione e all’acquisizione di informazioni, in modo che la configurazione sia predisposta per arrivare, con livelli crescenti di autonomia da sviluppare in fasi successive a un livello unmanned.” Il veicolo, così come definito nella descrizione del progetto, “permetterebbe di sfruttare una notevole flessibilità e versatilità, date dalla capacità di ridurre il rischio del personale in caso di situazioni pericolose unite alla capacità di prendere decisioni rapide in condizioni non note a priori dall’essere umano. Il VTLM, data la sua versatilità e polivalenza, è il veicolo ideale in cui integrare una architettura optionally unmanned”.

La seconda università aderente è La Sapienza di Roma, coinvolta da LEM s.r.l. (che sin dal 1977 ha tra i suoi principali clienti i ministeri della Difesa in Italia e all’estero) nel progetto SAGUVET, Sistema Autonomo di Guida Universale per Veicoli Terrestri. L’obiettivo è quello di realizzare “un ambiente di simulazione e un prototipo industriale, formato da un kit di guida remotizzata, semiautonoma e autonoma per veicoli ruotati e cingolati in dotazione alle Forze Armate”. Un sistema che andrebbe a sostituire o appoggiare veicoli blindati nel trasporto di materiali o, si legge nel documento, per attività automatica di bonifica di esplosivi. “Il sistema a guida autonoma dovrà essere versatile ed applicabile su veicoli già esistenti, anche molto diversi tra loro, e dovrà consentire di: essere guidato in remoto da un operatore; poter seguire un percorso di missione in fase di pianificazione; fornire informazioni sull’ambiente circostante (esplorazione); effettuare il ritorno alla base in autonomia al verificarsi di alcune condizioni”. Il budget totale delle tre fasi, già completamente finanziate, è di € 909.224. 

EUROPEAN DEFENCE FUND E SUOI PRECURSORI

Il Fondo Europeo per la Difesa (EDF) è il primo programma di investimento comunitario messo in moto dall’Unione europea. Costituito da diversi strumenti di finanziamento pubblico al fine di investire in progetti di ricerca e sviluppo in beni e tecnologie per scopi militari, è principalmente destinato ad aziende for profit e gruppi di ricerca applicata. Nasce nel 2016 da un’idea del precedente presidente della Commissione europea, Jean-Claude Junckerme viene formalmente avviato nel 2018. É il punto cardine del Piano di azione di difesa europeo, con priorità come i sistemi autonomi (compresi i droni), la sorveglianza e l’intelligence, la sicurezza informatica e marittima. Con questo finanziamento miliardario l’Unione europea investe nell’industria dei sistemi d’arma con un intento duplice: favorire una partnership tra industria della difesa, centri di ricerca e università, e stati membri europei (e quindi con l’intenzione di contribuire anche alla crescita economica sostenendo competitività e innovazione nel settore); e rafforzare l’autonomia strategica dell’Ue. La direzione è sempre di più quella di una difesa europea comune, che possa rendere il continente autonomo da altre potenze mondiali o economiche. Sin dall’inizio però il finanziamento ai progetti di innovazione in ambito bellico sembra favorire perlopiù l’industria della difesa, e non una reale politica comunitaria in questo settore. Possiamo tranquillamente affermare come ci sia una chiara tendenza nel considerare l’industria degli armamenti come un’attività di fatto “normale” e la difesa come una priorità assoluta per l’Unione europea. 

Il terreno è stato sondato da due iniziative precorritrici: l’Azione preparatoria sulla ricerca nella difesa (PADR) e il Programma di sviluppo industriale per la difesa europea (Edidp), avvenute tra il 2019 e il 2020. Nella prima, del valore di 90 milioni di euro, l’Italia ha incassato 13 milioni per il finanziamento di dieci dei trenta progetti che aveva inizialmente presentato all’Ue. Per il secondo nel biennio 2019-20 lo stanziamento ha raggiunto i 500 milioni di euro e l’Italia ha svolto un ruolo centrale, potendo finanziare sei progetti tutti in qualità di capofila attraverso aziende come Leonardo, E-geos, Vitrociset, Elettronica Spa (di proprietà di Leonardo) e la Fondazione Safe. Il cuore dei progetti ha riguardato perlopiù lo sviluppo di tecnologie di simulazione per scenari di guerra, creazione di sensori e sistemi per la contro offensiva in caso di attacco tramite droni (autonomi o semi-autonomi). 

Il network europeo contro la vendita di armi (Enaat), nato nel 1984 durante una conferenza internazionale sulla produzione di armi e l’export militare tenuta nei Paesi Bassi, raccoglie tutte le organizzazioni nazionali che si occupano di questi temi (come ad esempio Rete Disarmo in Italia) e al momento promuove e coordina la campagna NoEUmoney4arms. Stando ai dati raccolti da Enaat, la fetta più grande della torta dei finanziamenti precursori all’Edf è andata a 15 tra aziende e centri di ricerca delle potenze militari europee: produttori di armamenti come Thales, Airbus e l’italiana Leonardo (quasi il 10%), Indra, Safran e Saab. La Commissione europea aveva previsto anche un gruppo di esperti dedicato alla valutazione dei primi passi del progetto Edf, ovvero di Padr e Edidp. Nel 2016 a dare l’ok alla loro struttura c’erano però il Capo della politica estera dell’Ue Federica Mogherini e, tra gli altri, anche gli amministratori delegati di Indra, Mbda, Saab, Airbus, Tno, Bae system e Leonardo. Un conflitto di interessi che lo stesso Ombudsman comunitario (incaricata di indagare sui reclami dei cittadini europei con la funzione di responsabile alla trasparenza), Emily O'Reilly, aveva denunciato nel luglio del 2017. 

I finanziamenti europei dedicati al settore della difesa e degli armamenti derivano inevitabilmente da tagli ad altre linee di bilancio dell’Ue, che secondo gli studi di Enaat sarebbero stati prelevati da fondi civili. Per Edidp, nel 2019-20, scrive Enaat sul suo sito: “la Commissione europea voleva deviare l’80% del bilancio da programmi civili esistenti. Dopo tre mesi di negoziati con gli stati membri il compromesso è stato quello di deviare 300 milioni di euro (75% del bilancio Edidp) da tre programmi già esistenti: 108 milioni di euro provenivano dal fondo per collegare l’Europa, compresa una linea di bilancio che contribuisce allo sviluppo sostenibile e alla protezione dell’ambiente e altre relative al mercato interno dell’energia; 108 milioni di euro provenivano dai programmi europei di navigazione satellitare, principalmente dal programma Galileo per un sistema Gps europeo alla pari con concorrenti come la Cina, la Russia o il programma statunitense; 69 milioni di euro per gli impianti Iter (nuova generazione di centrali nucleari”. I restanti 200 milioni di euro non erano coperti da nessuna linea di bilancio precedente e in questo Enaat ritrova la motivazione di respingimento di alcune proposte pervenute alla Commissione europea. Insomma, i soldi per la difesa non sono quasi mai destinati nella loro interezza in anticipo e spesso vengono convogliati da altri progetti di investimento europeo con fini più nobili o quantomeno slegati da una logica guerrafondaia. Un parallelismo in questo senso è interessante: il bilancio annuale del programma europeo per i diritti umani del 2017 è stato di 133 milioni di euro. 

Il finanziamento Edidp è stato erogato principalmente attraverso sovvenzioni, il che significa che le aziende hanno ricevuto somme di denaro in prestito (e non le hanno dovute restituire) e hanno beneficiato di condizioni estremamente favorevoli per quanto riguarda la proprietà dei risultati che da questi progetti derivavano (diritti di proprietà intellettuale, e fino al 125% dei costi ammissibili).

Sul nuovo ciclo di finanziamenti non è stata fornita ancora alcuna indicazione sulla provenienza del denaro messo a disposizione. Secondo Enaat, “in media circa 1,85 miliardi di euro ogni anno dovranno essere deviati da programmi civili a ricerca e sviluppo in campo militare, poiché gli Stati Membri non sono disposti ad aumentare i loro contributi nazionali al bilancio europeo e la Brexit ha portato a una perdita di circa 10 miliardi di euro per l’Ue”. Tutti i progetti finanziati nel settore della difesa, e non solo, infatti seguono un regime di cofinanziamento su base nazionale o attraverso una partnership con altri Stati Membri. In sostanza sarebbe la cooperazione tra Stati dell’Ue il primario scopo degli investimenti per la difesa.

Questione di vitale importanza, che ritroveremo anche nei progetti che hanno riguardato l’Italia e altri Paesi membri finanziati dalla prima tornata di Edf, è il fatto che non esistono regolamenti vincolanti che mettano in chiaro quali tipi di tecnologie militari debbano essere sviluppate. Il fondo per la difesa, nella sua totalità, dovrebbe coprire attività di studio e prototipazione per sostenere e migliorare nuove conoscenze e tecnologie che possono avere effetti significativi nel settore, o “aumentare l’interoperabilità e la resilienza”; studi di fattibilità o raccolte di dati, test, certificazioni, ma anche attività di sensibilizzazione e networking. Requisiti altamente vaghi che Francesco Vignarca, portavoce dell’Osservatorio Milex (un centro studi sulle spese militari) reputa favorevoli unicamente all’industria della difesa: “i finanziamenti comunitari sono presentati sotto un punto di vista industriale, e non di difesa in sé e per sé. Richiedere all’industria del settore di produrre sistemi d’arma senza un indirizzo comune di politica estera significa creare strumenti potenzialmente non funzionali allo scopo, questione che potrebbe indebolire il processo di difesa europeo”. E se il prodotto finale non dovesse rispondere alle politiche europee adottate in seguito, sarebbero milioni di euro buttati e una probabile corsa agli armamenti verso l’esportazione in Paesi dove la democrazia non è direttamente proporzionale ai soldi investiti nel settore difesa (India, Pakistan, Qatar, Kuwait).

EDIDP

Nella stessa richiesta di accesso civico generalizzato (FOIA) citata nel paragrafo precedente, e indirizzata al Ministero della Difesa, la direzione degli armamenti aeronautici e per l’aeronavigabilità ha condiviso anche due progetti di cooperazione internazionale che vanno oltre quelli finanziati nazionalmente attraverso le linee di bilancio. In questo caso si parla di EDIDP e dei due progetti che hanno coinvolto la direzione in oggetto. Eudaas, European detect and avoid systems for remotely piloted aircraft system (RPAS) è il progetto da 2 milioni di euro vinto nel 2019 ma iniziato nel 2022 (e che probabilmente proseguirà al 2024), coinvolgendo Leonardo e il Centro italiano di ricerche aerospaziali in cinque nazioni diverse. La Svezia è capofila, ma sono presenti anche Germania, Italia, Francia e Spagna, e l’obiettivo è quello di sviluppare un “sistema di rilevamento e contrasto di velivoli senza pilota (UAV) ostili, in grado di operare nello spazio aereo comune e condurre missioni di sicurezza e difesa in tempo di pace, crisi e conflitti.”

Musher, Man unmanned system for helicopter è il progetto finanziato nell’edizione 2020 di EDIDP e ancora in via di definizione per mancanza di un Memorandum of Understanding tra i Paesi aderenti (Francia e Italia). Leonardo è l’azienda italiana coinvolta nella creazione di un sistema “di nuova concezione definito European manned-unmanned teaming (e-MUM-T) che consenta l’impiego di elicotteri con equipaggio e piattaforme senza equipaggio in ambiente di interoperabilità delle forze europee”, con un budget totale di € 3.330.000. 

Per quanto riguarda Edf, come dichiarato a Wired, la Commissione Europea screma le proposte inviate per Edf sulla base di criteri come la capacità operativa o controlli preventivi sull’etica aziendale, così come sulla due diligence condotte da funzionari dell’ente e da un comitato di esperti (di cui non si conosce la composizione). Un criterio importante che rende più comprensibile il motivo per cui alcuni progetti siano finanziati è la capacità di ripartire il lavoro anche tra piccole e medie imprese. Nessun Paese extra-europeo è ammesso a partecipare al finanziamento, salvo alcuni casi speciali in cui sono gli Stati stessi ad avallare la partecipazione di entità fuori dall’Ue. Un altro punto a favore della sovranità tecnologica che l’Europa cerca ardentemente per potersi proteggere da nazioni come gli Stati Uniti e la Cina. Per quanto riguarda invece l’esportazione non ci sono limiti precisi.

L’Italia è seconda solo alla Francia per partecipazione ai lavori del fondo Edf 2021. Dei 61 progetti selezionati dalla Commissione europea nel 2021, cinque sono a guida italiana e riguardano l’ambito navale, aereo, della sensoristica e dei radar, dei satelliti e dell’intelligenza artificiale. L’unico rilevante ai fini di questa ricerca è Commands, Convoy operations with manned-unmanned systems, un progetto di studio, prototipo e test   proposto da Iveco defence vehicles in cordata con università Link, Politecnico di Milano, Vitrociset s.p.a. e dal valore di quasi 27 milioni di euro (di cui circa 25 messi dall’Ue).

Commands mira a sviluppare, si legge nella descrizione, through life capabilites (ovvero capacità delle macchine durante il loro ciclo vitale) per sistemi terrestri agili, intelligenti e cooperativi con e senza equipaggio. Capofila è Sener aerospacial, una società spagnola.

CONCLUSIONI

Con il presente report abbiamo voluto portare all’attenzione dei lettori e dei decisori pubblici il tema ancora poco conosciuto e discusso, almeno in Italia, sui limiti etici posti dall’innovazione e dallo sviluppo tecnologico nell’ambito dell’industria degli armamenti.

Si tratta di un terreno scivoloso, poiché si corre il rischio di far passare per accettabili armi e tecnologie militari non dotate di intelligenza artificiale, ma pur sempre in grado di portare morte e distruzione. Non è così, il report “Man in the loop” vuole piuttosto evidenziare gli ulteriori problemi che lo sviluppo e l’utilizzo delle armi autonome possono causare in contesti di guerra o di tensione geopolitica, offrendo allo stesso tempo un quadro generale sulla produzione e l’adozione di questi sistemi d’arma avanzati in Italia.

Vale la pena ricordare quanto accaduto il 26 settembre 1983, quando l’ufficiale dell’aviazione sovietica Stanislav Evgrafovič Petrov si trovò a dover reagire alla segnalazione da parte del radar di rilevamento di un lancio di 5 missili nucleari dagli Stati Uniti diretti sul territorio russo. Solo grazie al buon senso e all’esperienza poté intuire, in un lasso di tempo molto breve, che doveva trattarsi di un malfunzionamento del sistema di rilevamento, evitando di fare ciò che il regolamento gli avrebbe invece imposto di fare, ovvero segnalare ai superiori l’attacco e dare inizio alla controffensiva.

Se al posto di Petrov ci fosse stato un algoritmo in grado di seguire solamente il protocollo prestabilito a priori da chi lo aveva programmato, è possibile che l’umanità si sarebbe trovata a dover fronteggiare una guerra nucleare scoppiata per errore.

A quarant’anni esatti dal cosiddetto “incidente dell'equinozio d'autunno” sembra purtroppo che all’esperienza e all’intuito umani si preferiscano la precisione e la velocità di calcolo degli algoritmi. Come riportato nell’introduzione, è molto probabile che alcune armi autonome siano già state utilizzate in almeno due scenari di guerra, in Libia e in Ucraina.

L’episodio che ha visto Stanislav Evgrafovič Petrov come protagonista spiega perfettamente quanto affermato dal professore Guglielmo Tamburrini, che in un’intervista rilasciata per la stesura di questo report ha sottolineato come “anche gli esseri umani non sono infallibili, ma hanno a loro disposizione tutta una serie di conoscenze di contesto per valutare le situazioni, per esempio nel caso in cui un combattente si arrenda con un gesto non convenzionale e non contenuto nel database dell’intelligenza artificiale”.

Alla velocità della scienza, in grado di perfezionare armi capaci di funzionare senza una guida umana, non corrisponde una altrettanto rapida legislazione internazionale al riguardo. Da anni, infatti, la Convenzione delle Nazioni Unite su alcune armi convenzionali (CCW), formulata nel 1980 a Ginevra, è ferma su questioni di procedura e definizioni, senza che gli Stati aderenti trovino un accordo per vietare l’utilizzo di armamenti autonomi, come richiesto in modo chiaro ed esplicito da molti esperti e da alcune campagne globali, tra cui “Stop Killer Robots”.

In Italia non manca di certo l’interesse per questo nuovo filone di sviluppo nel settore della difesa. Nonostante il ministero della Difesa abbia risposto alla nostra richiesta di accesso affermando di non avere in cantiere progetti di sviluppo di armi autonome, le aziende del settore, alcuni centri di ricerca universitari e, soprattutto, l’Esercito italiano appaiono entusiasti delle prospettive che le nuove tecnologie di intelligenza artificiale offrono al settore degli armamenti.

Un elemento di particolare interesse è l’apporto che il mondo accademico e della ricerca offre all’industria degli armamenti. Nel regolamento interno per la ricerca militare in campo nazionale, il Segretariato generale del ministero della Difesa afferma che “alla ricerca di base, tipicamente attestata presso le strutture civili (CNR, università, ENEA), corrisponde un’elevata probabilità di ottenere un’innovazione radicale, ovvero la creazione di qualcosa di completamente nuovo, in grado di cambiare le cosiddette regole del gioco.

Il Politecnico di Milano e l’Università La Sapienza di Roma sono due dei maggiori atenei italiani che hanno deciso di entrare nella partita, partecipando rispettivamente allo sviluppo di VTLM-OU, optionally unmanned, proposto al dicastero della Difesa da Iveco Defence Vehicles S.p.a di cui la prima fase di progetto è in corso di finanziamento per € 1.463.211, e  di SAGUVET ( Sistema Autonomo di Guida Universale per Veicoli Terrestri) già completamente finanziato con € 909.224.

Quelli citati sono solo due tra i principali progetti di ricerca, sviluppo e prototipazione di armi autonome attualmente in corso in Italia, come riportato nel capitolo “Ricerca e sviluppo tecnologico”.

Confidiamo che il report “Man in the loop” possa essere utile a tutti coloro che nel prossimo futuro si troveranno a dover prendere delle decisioni, sia a livello nazionale che, in particolare, in contesti internazionali, per avere un’idea più chiara sui rischi connessi all’utilizzo delle armi autonome.

Per questo concludiamo riprendendo il monito del Segretario Generale dell’ONU António Guterres, riportato nell’introduzione: “le macchine autonome con la capacità di selezionare obiettivi e fare vittime senza il coinvolgimento degli esseri umani sono politicamente inaccettabili e moralmente ripugnanti”.

CREDITI

Il report “Man in the loop - Ricerca e sviluppo dei sistemi d’arma autonomi in Italia” è stato pubblicato grazie al contributo di Stop Killer Robots (SKR), coalizione globale che chiede l'introduzione di nuove norme internazionali per garantire il mantenimento di un significativo controllo umano sull'uso della forza.

La ricerca è stata condotta da:

Davide Del Monte

Socio fondatore di info.nodes, associazione no profit costituita nel settembre 2019 da un gruppo di attivisti, giornalisti e artisti, che vogliono ristabilire una società più giusta ed equa. Davide collabora con diverse realtà che si occupano di tutela dei diritti sociali, civili e digitali, tra cui ReAct, Hermes Center e onData.

Laura Carrer

Giornalista freelance e ricercatrice. Scrive di sorveglianza di stato, di tecnologia all’intersezione con i diritti umani, dell’impatto delle piattaforme tecnologiche sulla società, e di spazio urbano. È autrice di articoli e inchieste su IrpiMedia, Wired Italia, Domani, Il Post, Il Manifesto e alcuni magazine online.

Andrea Daniele Signorelli

Giornalista freelance. Si occupa del rapporto tra nuove tecnologie, politica e società. Scrive per Domani, Wired, Repubblica, Il Tascabile e altri. È autore di “Technosapiens: come l’essere umano si trasforma in macchina” (D Editore, 2021).