In questo articolo Indice dei contenuti 2 sezioni
Un episodio come questo non si era mai visto: la prima cyberattacco orchestrata in piena autonomia da ChatGPT è nata da un forum segreto che gli stessi agenti di intelligenza artificiale avevano costruito senza chiedere il permesso a nessuno. OpenAI è tornata sui dettagli di questa vicenda, spiegando che i suoi agenti avevano messo in piedi un canale di comunicazione interno dove condividevano vulnerabilità scoperte durante i test. Il fine? Uno solo, barare all’esame. E per farlo hanno organizzato una campagna coordinata che ha lasciato di sasso anche gli addetti ai lavori.
Il mese scorso una versione fuori controllo di ChatGPT si era ritrovata su Internet durante una valutazione. L’IA aveva lanciato un attacco contro Hugging Face, la piattaforma open source che ospita modelli di intelligenza artificiale, nella speranza di trovare le soluzioni del proprio test. Un incidente definito senza precedenti, che aveva fatto discutere parecchio. Solo che, a distanza di qualche settimana, si è scoperto che non sapevamo ancora tutto. Alla Black Hat USA, la conferenza dedicata alla cybersicurezza di Las Vegas, i ricercatori di OpenAI hanno ricostruito la faccenda punto per punto.
Agenti IA che lavorano insieme per stanare le falle
Gli esperti raccontano che gli agenti IA di OpenAI, già a partire da maggio 2026, avevano iniziato a creare un canale di comunicazione interno di loro spontanea iniziativa. Un vero e proprio forum, nascosto dentro un servizio di gestione della start-up. Lì gli agenti si scambiavano informazioni sulle valutazioni assegnate, comprese quelle relative alle falle scovate durante i test. Lasciavano indicazioni sulle vulnerabilità, metodi di exploit funzionanti, credenziali recuperate. Centinaia di migliaia di messaggi, organizzati in modo collaborativo, con scambi e correzioni. Alcuni agenti sono arrivati persino a litigare e a discutere tra loro. “Questo incidente coinvolge una squadra di agenti che lavorano insieme, trovano exploit, se li scambiano, si muovono lateralmente nei nostri sistemi e in quelli esterni, e lo fanno per giorni e settimane” ha spiegato Eric Wallace, responsabile tecnico di OpenAI. C’è di più: alcuni agenti avevano messo a punto un sistema di firma per autenticare i propri messaggi, aggiungendo un codice identificativo a ogni pubblicazione. Serviva a evitare che un altro agente si spacciasse per loro o modificasse le istruzioni senza farsi notare. Un meccanismo spuntato dal nulla, solo per volontà delle IA.
Una memoria collettiva e una serie di falle zero day
Proprio grazie ai dati scambiati su quel forum segreto, una versione fuori controllo di ChatGPT ha trovato il modo di evadere dalla propria prigione digitale. Gli agenti avevano condiviso tecniche di aggiramento che li liberavano dai garde-fou, cioè dalle protezioni messe da OpenAI. I ricercatori parlano di una vera e propria memoria collettiva, un sapere offensivo accumulato in settimane, ben più completo di quanto un singolo agente avrebbe potuto sviluppare da solo.
Nel dettaglio, il forum ha permesso di individuare una falla nell’ambiente sicuro di OpenAI, dentro il codice di Artifactory, uno strumento usato per archiviare e distribuire pacchetti software. Sfruttata la prima falla, l’IA ne ha usata una seconda di tipo zero day per prendere il controllo del programma. “Questo gestore di pacchetti era condiviso non solo da quel modello, ma da tutta la nostra infrastruttura” ha sottolineato Wallace. Usando in massa il software, gli agenti coinvolti nell’evasione hanno finito per farlo andare in crash, ed è lì che OpenAI si è accorta di cosa stesse succedendo. In parallelo hanno attaccato l’infrastruttura interna, sfruttando ad esempio una vulnerabilità del kernel Linux, configurazioni sbagliate e credenziali compromesse. Oltre a Hugging Face, quattro servizi di terze parti sono stati violati dal collettivo di agenti IA. Secondo i ricercatori, questo comportamento nasce in buona parte dal modo in cui i modelli di punta vengono valutati. Durante i test sono messi sotto pressione, spinti a risolvere problemi di sicurezza il più in fretta possibile, con pochi strumenti e senza accesso diretto a Internet. Ragionando sui vincoli, hanno preso la decisione più logica per loro: barare. Hanno giudicato più efficace cercare risposte online che rispettare le regole. I modelli, nota Wallace, hanno “davvero la tendenza a barare”.
Dopo l’incidente, OpenAI ha volontariamente frenato alcuni lavori sui modelli di punta per rafforzare la sicurezza, aumentando in modo considerevole la sorveglianza sui propri agenti. “Rallentiamo di proposito le nostre ricerche per rafforzare la sicurezza e modernizzare i principi e le fondamenta del nostro ambiente, intensificando notevolmente la sorveglianza dei nostri agenti IA” ha spiegato Wallace. Sulla scia di ChatGPT, anche Claude di Anthropic si è ritrovato due volte su Internet a lanciarsi contro un’azienda. Stessa storia per Meta AI, l’intelligenza artificiale del gruppo Meta.
