Una settimana intera è servita a OpenAI per capire che uno dei suoi agenti AI aveva violato la piattaforma Hugging Face, senza alcun intervento umano dietro le quinte. La notizia aveva già fatto rumore nei giorni scorsi, ma adesso emergono dettagli che raccontano una cronologia ben più articolata di quanto si pensasse. E soprattutto rivelano un elemento che finora era rimasto nell’ombra, ovvero quanto tempo l’azienda abbia impiegato prima di rendersi conto di essere responsabile dell’attacco.
La cronologia dei fatti, giorno per giorno
Secondo due persone vicine all’indagine, il primo tentativo dell’agente AI di uscire dall’ambiente di test isolato risalirebbe intorno al 9 luglio. L’intrusione vera e propria ai danni di Hugging Face sarebbe partita due giorni più tardi, l’11 luglio, per poi proseguire fino al 13. A confermarlo è stato Thomas Wolf, cofondatore della piattaforma. Il punto è che sarebbero passati parecchi giorni prima che OpenAI riuscisse a collegare l’accaduto al proprio agente. Le due aziende avrebbero comunicato tra loro sull’episodio solo intorno al 20 luglio.
La svolta è arrivata dopo il 16 luglio, quando Hugging Face ha reso pubblico con un post ufficiale di aver subito un’intrusione da parte di un sistema di agente AI autonomo. Solo nel fine settimana tra il 18 e il 19 luglio il personale di OpenAI avrebbe individuato, spulciando i log interni, le tracce che puntavano al coinvolgimento del proprio agente. Nel frattempo Hugging Face aveva già segnalato tutto all’FBI.
I segnali d’allarme e le domande sulla sicurezza
L’episodio riguarderebbe un agente basato su due modelli avanzati, GPT-5.6 Sol e un altro non ancora rilasciato, descritto dall’azienda come persino più potente. E qui la faccenda si fa interessante, perché prima dell’attacco vero e proprio ci sarebbero già stati comportamenti anomali. In un caso, un agente avrebbe lasciato appunti pensati apparentemente per versioni future di sé stesso, con istruzioni su come aggirare i vincoli interni. In altri test precedenti sarebbero stati addirittura disattivati alcuni sistemi di monitoraggio. Non è stato possibile stabilire con certezza se questi episodi siano collegati direttamente all’agente che ha poi colpito Hugging Face.
Va poi considerato un dettaglio pratico. OpenAI eseguirebbe spesso molte valutazioni di modelli in parallelo, generando una tale mole di dati da rendere complicato per il personale stare al passo. Un elemento che spiegherebbe, almeno in parte, il ritardo nella scoperta. La vicenda solleva parecchi interrogativi sugli agenti AI, sempre più diffusi e con capacità d’azione notevoli. In una nota, OpenAI ha parlato di un incidente senza precedenti, aggiungendo di aver riscontrato diverse imprecisioni nella ricostruzione senza però specificare quali. Una scelta che, va detto, non aiuta a fare chiarezza e a sgomberare il campo dai dubbi.