In questo articolo Indice dei contenuti 2 sezioni
Un report di intelligence sbagliato, prodotto con l’aiuto di un chatbot, ha portato gli Stati Uniti a un passo dall’abbordare una nave cinese in Medio Oriente. Le allucinazioni AI non sono più soltanto un fastidio per chi chiede una ricetta o un riassunto a un assistente virtuale, perché stavolta l’errore di un modello linguistico si è infilato dentro una catena decisionale militare e ha rischiato di innescare uno scontro diretto tra le due superpotenze. L’operazione è stata fermata all’ultimo momento, quando qualcuno ha deciso di leggere con più attenzione le carte.
Cosa era stato pianificato e perché è saltato tutto
L’esercito statunitense, stando alle informazioni raccolte dalla CNN, aveva già messo a punto i piani operativi per intercettare un’imbarcazione cinese in un punto imprecisato del Medio Oriente. I militari erano pronti a salire a bordo, con tanto di supporto aereo. Il motivo era contenuto in un report di intelligence secondo cui quella nave trasportava componenti destinate a un programma di armi nucleari.
Poco prima dell’avvio dell’operazione, alcuni funzionari hanno voluto vederci chiaro e hanno riesaminato il documento, firmato da un analista dello US Special Operations Command. È lì che è emerso il dettaglio decisivo, ovvero che il rapporto era stato costruito con l’assistenza dell’intelligenza artificiale. Il chatbot utilizzato, di cui non è stato reso noto il nome, aveva identificato in modo errato il carico della nave. Un’allucinazione da manuale, di quelle che in un contesto qualunque si risolvono con una risata, qui invece con una possibile guerra tra Stati Uniti e Cina.
La dinamica ricostruita è piuttosto istruttiva. L’analista aveva interrogato il chatbot su alcune informazioni relative al manifesto di carico dell’imbarcazione. Il modello ha mescolato dati di intelligence provenienti da fonti aperte con materiale riservato in possesso delle autorità governative, e da quell’incrocio ha tirato fuori una conclusione sbagliata su cosa ci fosse davvero nella stiva. Non finisce qui, perché lo stesso analista ha poi usato di nuovo l’AI per impaginare quei risultati dentro un rapporto di intelligence in formato standard. Errore generato dalla macchina, errore confezionato dalla macchina.
Quanto pesa l’intelligenza artificiale dentro il Pentagono
Il punto è che questa non è una parentesi isolata. Il Dipartimento della Difesa degli Stati Uniti ha spinto parecchio sull’adozione dell’intelligenza artificiale per le attività quotidiane, firmando contratti con Google, OpenAI, SpaceXAI, Microsoft, NVIDIA, Amazon Web Services e Reflection per integrare i rispettivi modelli all’interno dei sistemi classificati. Una lista che da sola racconta quanto il settore privato sia ormai dentro l’apparato militare americano.
L’uso è trasversale e tocca quasi ogni ambito. Analisi dei dati grezzi raccolti sul campo, gestione del budget, logistica, catene di approvvigionamento e perfino la selezione degli obiettivi da colpire. In pratica, la stessa tecnologia che sbaglia a leggere un manifesto di carico viene impiegata anche per decidere dove indirizzare un attacco. Nel caso della nave cinese, l’allucinazione del modello aveva portato i militari a pianificare un’azione contro il bersaglio sbagliato, e soltanto un controllo umano dell’ultimo minuto ha impedito che la cosa andasse oltre la fase di preparazione.
Dal Pentagono non è arrivato alcun commento sulla vicenda, il che non sorprende particolarmente. Sul fronte politico, intanto, la temperatura resta alta, perché Donald Trump ha deciso di revocare l’accesso alla Casa Bianca ai giornalisti della CNN, oltre a quelli di POLITICO e MS NOW, accusando le tre testate di pubblicare notizie false. Le redazioni coinvolte hanno già annunciato che porteranno la questione in tribunale, sostenendo che si tratti di una violazione diretta del Primo Emendamento.
Fonte: TecnoAndroid
