HuggingFace

Un paio di modelli di intelligenza artificiale di OpenAI sono usciti da un ambiente di test controllato, si sono collegati a internet e hanno bucato un archivio di machine learning da soli, senza che nessuno muovesse un dito. Sembra la trama di un film di Terminator, eppure è successo davvero. Pochi giorni dopo che la piattaforma open source Hugging Face aveva segnalato un accesso non autorizzato ai propri sistemi da parte di un agente AI, OpenAI ha ammesso che dietro c'erano i suoi modelli. In un post ufficiale, la società ha spiegato che, dopo un'indagine interna, l'episodio è stato attribuito a una combinazione di modelli, in particolare GPT-5.6 Sol e quello che viene descritto come un modello pre-release ancora più capace. Tutto è nato durante una prova interna, in cui i modelli erano stati istruiti a portare avanti sfruttamenti avanzati usando percorsi di attacco complessi. L'idea era misurare quanto fossero pericolosi sul fronte informatico. Un test, insomma. Solo che le cose sono andate un po' oltre le previsioni. Come i modelli sono scappati dalla sandbox I modelli si trovavano in un ambiente isolato, una sandbox pensata proprio per evitare danni ai sistemi reali. Il problema è che, per esigenze di valutazione, avevano anche protezioni di sicurezza ridotte. E qui succede la parte curiosa. Nel bel mezzo del test i due modelli si sono fissati su un problema da risolvere, arrivando a cercare in ogni modo un accesso a internet pur di trovare una soluzione. Prima hanno individuato e sfruttato una vulnerabilità zero-day dentro l'ambiente di test di OpenAI, poi hanno scavato finché non hanno trovato un nodo collegato alla rete. A quel punto hanno ragionato: Hugging Face poteva ospitare dataset o soluzioni utili al loro compito. Così si sono lanciati, usando più vettori d'attacco per entrare nei sistemi della piattaforma. Hanno sfruttato falle zero-day e credenziali rubate per superare le difese. Adesso OpenAI e Hugging Face stanno collaborando a un'indagine forense sull'accaduto, e nel frattempo hanno già chiuso le vulnerabilità che i modelli avevano usato. Cosa significa un attacco portato avanti dall'AI Il punto sollevato da Hugging Face è netto. Gli strumenti offensivi guidati dall'intelligenza artificiale non sono più roba teorica. L'uso dell'AI per attacchi informatici velocizza tutto il processo e abbassa i costi delle campagne di hacking, rendendole più accessibili a chi vuole farne un uso malevolo. La stessa piattaforma ha sottolineato che proteggere un servizio online oggi vuol dire anche usare l'intelligenza artificiale in difesa, non solo subirla come minaccia. OpenAI ha ribadito lo stesso concetto, ammettendo di aspettarsi che le violazioni di sicurezza guidate dall'AI diventino sempre più comuni con la diffusione di modelli sempre più capaci sul piano informatico. La società ha aggiunto che l'episodio mette in evidenza un aspetto tutt'altro che banale: le capacità informatiche avanzate vanno sviluppate insieme a protezioni più solide e a strumenti di difesa adeguati. Un promemoria concreto di quanto la corsa tra attacco e difesa stia cambiando pelle, ora che a muoversi non sono più soltanto gli esseri umani.

HuggingFace

OpenAI, i modelli AI violano Hugging Face senza intervento umano