Le armi autonome sono tornate al centro del dibattito nel Regno Unito, e stavolta non per una posizione di facciata. Il governo britannico continua a ripetere di non avere alcuna intenzione di sviluppare sistemi capaci di uccidere senza controllo umano, ma questa settimana il ministro delle Forze armate Al Carns ha lasciato intendere qualcosa di diverso. Potrebbero esistere, ha detto, circostanze eccezionali in cui togliere l’essere umano dalla catena decisionale diventa necessario. Non è proprio una contraddizione, è piuttosto uno spiraglio su quanto sta succedendo dietro le quinte di un apparato militare che fa i conti con la realtà del campo di battaglia.
Quando le promesse politiche incontrano la pressione del combattimento
La linea ufficiale del Regno Unito resta quella della supervisione umana, ma con qualche margine di flessibilità lasciato aperto per gli scenari più estremi. Il documento di difesa del 2022, intitolato “Ambitious, Safe, Responsible”, richiede un “coinvolgimento umano adeguato al contesto” nelle decisioni di puntamento delle armi. Tradotto: dovrebbe essere un uomo a prendere la decisione di uccidere. Il problema è che la parola “adeguato” è abbastanza elastica da significare praticamente qualsiasi cosa.
Nel frattempo, lo scorso febbraio il Ministero della Difesa ha avviato una revisione delle regole sui sistemi autonomi, sostenendo che le norme attuali non sono più “adatte all’epoca in cui viviamo”. E quando un governo mette mano a una regolamentazione perché la giudica vecchia, di solito il cambiamento arriva poco dopo.
Il campo di battaglia ucraino accelera tutto
L’evoluzione della guerra dei droni sta costringendo gli eserciti occidentali a rimettere in discussione i propri vincoli etici, anche perché i rivali corrono. L’Ucraina schiera già droni come il Saker Scout, capaci di sfruttare la visione artificiale per cercare bersagli militari prestabiliti senza alcuna conferma umana. La Russia, secondo quanto riferito, utilizza i droni Lancet con funzioni simili. Un alto funzionario militare britannico lo ha detto senza giri di parole già a dicembre: “le macchine stanno già dando la caccia agli esseri umani sul campo di battaglia in Ucraina”.
A rendere ancora più concreto il rischio c’è l’episodio dello scorso maggio, quando un drone ucraino ha colpito per errore un impianto petrolifero in Lettonia. Una possibile spiegazione è che i sistemi autonomi siano stati confusi dal disturbo elettronico russo. Un caso che mostra quanto in fretta una decisione presa da un algoritmo possa finire fuori controllo, ben oltre il bersaglio previsto.
Le regole giuridiche sotto pressione
Gli esperti di diritto internazionale avvertono che ridurre la supervisione umana mette a dura prova i principi di responsabilità e protezione dei civili. La giurista Jessica Dorsey sostiene che questo cambiamento potrebbe “esercitare una pressione significativa sui quadri giuridici esistenti che regolano responsabilità, prevedibilità e tutela dei civili”. E la domanda diventa scomoda: quando un sistema autonomo sbaglia bersaglio, chi finisce davanti a un tribunale per crimini di guerra? Il programmatore? L’ufficiale che ha schierato il sistema? L’azienda che lo ha costruito?
Le strutture legali attuali danno per scontato che ci sia una persona a decidere nei momenti critici. Toglietela, e la responsabilità diventa un buco nero che gli avversari potrebbero sfruttare. La dichiarazione presentata dal Regno Unito alle Nazioni Unite, in cui si afferma di “non avere intenzione” di sviluppare armi completamente autonome, suona sempre più debole man mano che gli stessi vertici militari discutono apertamente di scenari che richiederebbero proprio quella capacità. Il punto vero non è più se questa tecnologia verrà usata, ma se gli eserciti democratici manterranno un controllo reale quando saranno le macchine a decidere su vita e morte alla velocità di un calcolo.
