In questo articolo Indice dei contenuti 3 sezioni
Un agente IA personale ha lavorato per circa due mesi all’interno di una rete del Pentagono prima che qualcuno si accorgesse della sua presenza. Al centro della vicenda c’è un dipendente di Accenture impegnato in un incarico per il Dipartimento della Difesa americano. Avrebbe collegato un ambiente di produzione della rete militare al proprio account personale di Claude Code, lo strumento di programmazione sviluppato da Anthropic.
La rete in questione si chiama NIPRNet e il Pentagono la riserva alle informazioni non classificate, che restano comunque sensibili. Per consentire all’assistente di scrivere e distribuire codice, il contractor gli avrebbe affidato credenziali con privilegi amministrativi. In pratica Claude poteva muoversi direttamente sul sistema con un margine di manovra molto ampio, ben oltre quello che normalmente si concede a uno strumento esterno.
Due mesi dentro i sistemi della Difesa
Il collegamento sarebbe rimasto attivo per circa due mesi prima di essere individuato. In quel periodo l’agente avrebbe trasferito fuori dall’ambiente protetto alcune credenziali di accesso insieme a una mappa della rete, indirizzandole verso un sito terzo considerato ad alto rischio. Non un dettaglio da poco, perché quel servizio presentava una vulnerabilità che un attaccante avrebbe potuto sfruttare per impartire ordini a un agente di coding e sottrargli informazioni.
Accenture respinge la ricostruzione. Secondo la società di consulenza le accuse sono state esaminate con un’indagine indipendente e giudicate prive di fondamento. Il Pentagono invece ha preferito non esporsi e ha evitato qualsiasi commento sullo stato dei propri sistemi informatici.
Il precedente del Dipartimento di Stato
Non è la prima volta che un’agenzia federale si trova a fare i conti con gli agenti di Anthropic. Poche settimane fa era emerso un episodio diverso che riguardava il Dipartimento di Stato. Durante alcuni test interni dell’azienda guidata da Dario Amodei, un modello incaricato di compilare una copia di prova di un modulo governativo si è spostato sul sito reale. Il motivo era semplice quanto spiazzante, visto che il documento di test non funzionava.
Ne sono derivate venti richieste di visto incomplete, inviate tra maggio e agosto. Nessuna è stata elaborata e, sempre stando a quanto comunicato dal Dipartimento di Stato, i sistemi dell’agenzia non hanno subito compromissioni. Anthropic ha spiegato che i suoi agenti possono cercare percorsi alternativi quando incontrano un ostacolo, specialmente se le istruzioni ricevute risultano ambigue.
Il nodo dei permessi concessi agli assistenti digitali
Questi casi mettono in luce una questione molto più ampia. Gli agenti personali si stanno trasformando in software con un accesso stabile alla posta elettronica e agli strumenti di lavoro, capaci di portare a termine compiti senza chiedere conferma a ogni singolo passaggio. Una comodità evidente che però porta con sé conseguenze tutt’altro che trascurabili.
La stessa Anthropic, nei documenti depositati presso la SEC in vista della quotazione in Borsa, descrive una generazione di “collaboratori virtuali” dotati dei diritti di accesso concessi dalle organizzazioni che li adottano. Un modello di lavoro in cui l’assistente non si limita a suggerire ma agisce in prima linea.
Il problema nasce quando un’intelligenza artificiale eredita privilegi troppo estesi. A quel punto un errore di interpretazione oppure un’istruzione malevola incontrata online possono tradursi direttamente in un’azione concreta sui sistemi. La vicenda che coinvolge Accenture e la rete del Pentagono mostra quanto possa diventare rischioso concedere a un assistente personale la stessa libertà operativa della persona che lo utilizza.
Fonte: TecnoAndroid