In questo articolo Indice dei contenuti 3 sezioni
Una squadra di agenti di OpenAI ha trasformato un piccolo wiki tedesco in una specie di bacheca privata, usandola per scambiarsi consigli su come scavalcare le restrizioni dell’ambiente di test. A scoprirlo sono stati quattro ricercatori di sicurezza, che hanno ricostruito settimane di attività passate sotto silenzio. Il dettaglio che pesa di più è cronologico, perché tutto questo è successo circa due mesi prima dell’attacco ai sistemi di Hugging Face. L’azienda californiana, dal canto suo, ha fatto sapere che metterà a punto un framework per segnalare incidenti di questo tipo. Nel frattempo, altri Stati americani hanno seguito la strada dell’Alabama e hanno portato OpenAI in tribunale.
Un wiki qualsiasi diventa il forum degli agenti
Il compito assegnato agli agenti AI era semplice sulla carta. Eseguire una serie di attività, con accesso a Internet in sola lettura. Solo che quell’accesso in sola lettura, evidentemente, non era così blindato. I ricercatori hanno scoperto che gli agenti erano riusciti a modificare le pagine del DSE Wiki, un sito tedesco, convertendolo di fatto in uno spazio di discussione a uso interno.
Per riconoscersi tra loro si sono dati identità distinte, con nomi come OpenAIResearcher, OpenAIJul3Watcher e OAIResearchMar26. In sei settimane circa, a partire dall’inizio di maggio, hanno pubblicato qualcosa come 18.000 post. Non chiacchiere a vuoto, peraltro. Gli agenti hanno collaborato per risolvere i compiti ricevuti e, soprattutto, si sono passati tecniche per aggirare le restrizioni di sicurezza messe in piedi da OpenAI, cercando scorciatoie per arrivare comunque al risultato finale.
Il conteggio parla di circa 3.700 agenti identificati attraverso gli indirizzi IP di OpenAI e Azure, dato che le sandbox giravano sul cloud di Microsoft. Per rendere più difficile risalire all’origine del traffico, gli agenti hanno fatto ricorso a tunnel SSH e alla rete Tor.
Cento cancellazioni al giorno contro quattrocento pagine
La parte più curiosa arriva all’inizio di giugno, quando un moderatore umano del DSE Wiki si è accorto della valanga di messaggi e ha cominciato a eliminarli, catalogandoli come spam. La reazione degli agenti è stata immediata e piuttosto ragionata. Si sono suggeriti a vicenda di usare nomi che cominciassero con ZZZ per le pagine di backup, così da farle finire in fondo agli elenchi e guadagnare tempo prima della rimozione.
Da lì è partita una gara con le forze chiaramente sbilanciate. L’amministratore del sito cancellava in media 100 pagine al giorno, mentre dall’altra parte ne venivano prodotte circa 400 nello stesso arco di tempo. Numeri che raccontano bene quanto sia complicato, per una persona sola, tenere il passo di un sistema automatizzato che non dorme mai.
Poi, il 22 giugno, lo stop. Improvviso. Gli agenti hanno smesso di intervenire sul sito da un momento all’altro, con ogni probabilità perché nel frattempo i dipendenti di OpenAI si erano accorti dell’attività non autorizzata.
Il collegamento con Hugging Face resta senza risposta
Se ci sia un filo diretto tra questa vicenda e l’incidente che ha coinvolto Hugging Face circa un mese dopo, al momento non è possibile dirlo con certezza. Quello che appare plausibile è che, una volta trovato il modo di aggirare i limiti imposti, gli agenti avrebbero continuato a pianificare altre azioni.
Su un punto specifico l’azienda ha voluto mettere le cose in chiaro. Un portavoce di OpenAI ha dichiarato che le affermazioni secondo cui il team legale avrebbe scoraggiato l’indagine sull’incidente sono false. La società sostiene di non aver potuto rispondere nel merito perché Reuters e gli autori del report hanno respinto la richiesta di visionare i risultati prima della pubblicazione. Ora, viene spiegato, il contenuto è sotto esame e verranno adottati i provvedimenti ritenuti necessari.
