In questo articolo Indice dei contenuti 2 sezioni
Un’allucinazione dell’AI ha rischiato di trasformarsi in un incidente militare tra Stati Uniti e Cina, con aerei già in volo e un’operazione di abbordaggio pronta a scattare nel Medio Oriente. Il motivo di tutto quel movimento era un rapporto di intelligence risultato poi «completamente falso», costruito con l’aiuto di strumenti di intelligenza artificiale che avevano semplicemente inventato quello che non c’era. Nel gergo tecnico si chiama appunto allucinazione, ed è quel fenomeno per cui un modello genera informazioni plausibili ma prive di qualsiasi fondamento.
La ricostruzione parla di un analista del comando delle operazioni speciali statunitensi che stava lavorando sul manifesto di carico di una nave cinese avvistata in Medio Oriente. Usando specifici strumenti di intelligenza artificiale, incrociati con informazioni provenienti dai servizi, l’analista avrebbe individuato a bordo componenti riconducibili a un presunto programma nucleare. Una segnalazione del genere fa scattare tutto il resto quasi in automatico.
Il report, l’allarme e l’operazione annullata all’ultimo
Dopo l’invio del report l’allarme si è diffuso rapidamente tra le forze statunitensi, già pronte a intercettare, attraccare e infine neutralizzare quella che veniva considerata una minaccia concreta. Alcune fonti raccontano che nel momento dell’alert diversi aerei militari americani erano già in volo, pronti a fornire supporto dall’alto all’operazione. Poi, poco prima dell’intervento, alcuni ufficiali hanno voluto rileggere il documento con più attenzione e hanno scoperto il problema alla radice: il chatbot aveva malinterpretato il contenuto della nave cargo. Operazione annullata.
Il punto è cosa sarebbe successo se quel controllo non ci fosse stato. Secondo la stessa fonte, un errore di quel tipo rappresentava una «scintilla» più che sufficiente a innescare un conflitto armato tra Stati Uniti e Cina, con un effetto domino difficile da fermare e una catena di incidenti diplomatici dalle conseguenze imprevedibili.
Resta poco chiaro quale strumento sia stato utilizzato, se un chatbot disponibile sul mercato oppure un prodotto pensato esclusivamente per uso militare. Un ex ufficiale statunitense ha però usato un’espressione piuttosto eloquente, descrivendo questi sistemi come «copie dei modelli commerciali, ma con il rossetto». Tradotto: sotto la verniciatura istituzionale ci sarebbero gli stessi limiti, e le stesse allucinazioni, dei modelli aperti al pubblico che chiunque può provare.
Il Pentagono accelera comunque sull’AI
L’auspicio, condiviso da molti addetti ai lavori, è che le forze armate americane siano davvero consapevoli dei rischi legati all’uso dell’AI in contesti così delicati e adottino misure di precauzione all’altezza. Il Dipartimento della Difesa però sembra muoversi in un’altra direzione, con quella che assomiglia molto a un’accelerazione decisa sull’adozione dell’intelligenza artificiale in ambito bellico.
A gennaio è arrivato l’annuncio di Pete Hegseth, segretario alla Difesa statunitense, sull’introduzione di Grok, il chatbot di Elon Musk, all’interno delle reti classificate del Pentagono. Si affianca a Gemini di Google, presentata lo scorso dicembre come base della piattaforma «GenAI.mil» insieme ad altri modelli. «L’intelligenza artificiale è valida tanto quanto i dati che riceve, e noi ci assicureremo che ci siano», aveva dichiarato Hegseth in quell’occasione.
Poco incisiva, alla luce dei fatti, la Dichiarazione sull’uso militare responsabile dell’intelligenza artificiale messa nero su bianco dal Dipartimento di Stato americano nel febbraio 2023, che raccomandava con forza una supervisione umana nei sistemi potenziati dall’AI. Quello che è arrivato dopo racconta un’altra storia, dall’impiego di droni completamente autonomi nel conflitto tra Russia e Ucraina fino all’inserimento di Anthropic nella lista nera del Pentagono, decisione poi ritenuta illegittima dalla sentenza della giudice Rita Faye Lin arrivata il mese scorso. Alla base c’era la ferma opposizione dell’azienda all’utilizzo dei suoi modelli nei sistemi d’arma autonomi.
Fonte: TecnoAndroid
