In questo articolo Indice dei contenuti 2 sezioni
Un rapporto di intelligence falso, costruito in parte con l’aiuto dell’intelligenza artificiale, ha rischiato di spingere l’esercito statunitense ad attaccare una nave cinese nel Medio Oriente. Secondo una fonte citata nella ricostruzione, l’episodio “ha quasi fatto scoppiare una guerra”, e mette in fila tutti i problemi che nascono quando si inseriscono strumenti automatici dentro il lavoro delicatissimo del Dipartimento della Difesa americano.
La dinamica, per quanto è emersa finora, è piuttosto semplice e proprio per questo inquietante. Un analista di un comando per le operazioni speciali ha interrogato un chatbot a proposito del manifesto di carico di una nave cinese. Il sistema ha mescolato informazioni di fonte aperta con dati riservati provenienti dalla signals intelligence e ne ha tirato fuori una conclusione pesantissima, cioè che a bordo ci fossero “componenti di un programma di armi nucleari”. Quella valutazione è finita nei canali operativi e ha portato i militari a un passo dal fermare la nave. Solo in un secondo momento alcuni funzionari si sono accorti che il documento era stato generato dall’AI.
Pentagono, un report AI falso: cosa trasportava davvero la nave cinese
Non è mai stato chiarito quale fosse il carico reale della nave cinese, e non si sa nemmeno quale strumento di intelligenza artificiale sia stato utilizzato dall’analista. Poteva trattarsi di un prodotto commerciale, di quelli accessibili a chiunque, oppure di un modello sviluppato appositamente per le agenzie governative americane. Vista la corsa del Pentagono ad adottare questa tecnologia su più fronti, le possibilità sono parecchie e nessuna è stata confermata.
Il punto è che un errore del genere non resta confinato a un foglio di carta. Un’informazione sbagliata che parla di armi nucleari viaggia veloce nella catena di comando, perché nessuno se la sente di ignorarla. E la reazione, in quel caso, sarebbe stata un’azione militare contro un’imbarcazione di un altro Paese, con tutto quello che ne consegue sul piano diplomatico. Il Dipartimento della Difesa, interpellato sulla vicenda, non ha per ora fornito una risposta pubblica.
La spinta del Pentagono verso un approccio “AI first”
Il contesto aiuta a capire come si sia arrivati fin qui. A gennaio il Segretario alla Difesa Pete Hegseth ha diffuso un memo che indicava al Pentagono la strada dell'”AI first”, invitando le strutture militari a sperimentare i modelli delle principali aziende americane del settore. Non tutto è filato liscio. Anthropic, per esempio, si è rifiutata di lasciare che i propri modelli venissero impiegati per lo sviluppo di armi autonome e per un breve periodo è stata esclusa dai rapporti con il governo.
Altre collaborazioni, invece, sono decollate. A febbraio xAI avrebbe chiuso un accordo per permettere all’esercito di utilizzare Grok, mentre a maggio NVIDIA, Microsoft e Amazon hanno stretto una partnership per offrire le proprie tecnologie di intelligenza artificiale al Dipartimento della Difesa. Sono contratti molto redditizi, ed è esattamente per questo che le aziende se li contendono con tanta energia.
Il caso della nave cinese però racconta anche l’altra faccia della medaglia. Un software gestionale che sbaglia produce un ritardo, una fattura sballata, al limite un cliente scontento. Un modello di AI militare che allucina su un carico sospetto produce una potenziale escalation tra due potenze nucleari. La differenza di scala tra i due scenari è enorme, e la velocità con cui questi strumenti vengono adottati dentro le strutture della Difesa non sembra tenerne pienamente conto.
Resta il fatto che l’analista abbia potuto interrogare un chatbot su materiale classificato senza che il risultato venisse marcato come generato automaticamente, passaggio che ha permesso al documento di circolare come se fosse una valutazione umana a tutti gli effetti.
Fonte: TecnoAndroid
