GPT-5.6 Sol ha impiegato appena poche ore per individuare le vulnerabilità e infilarsi nei server di Hugging Face, un tempo ridicolo se paragonato alle due settimane che un hacker in carne e ossa avrebbe dovuto mettere in conto per portare a termine lo stesso attacco. La notizia arriva dai ricercatori di OpenAI, l’azienda californiana che ha sviluppato il modello, e a quanto pare la cosa li ha lasciati piuttosto scossi. Sul tavolo c’è anche un altro sistema in fase di test, ancora più potente, e nel frattempo negli Stati Uniti è già spuntato un disegno di legge pensato per mettere un freno a situazioni del genere.
Un attacco informatico che nessuno si aspettava così rapido
Secondo quanto spiegato da OpenAI, i due modelli hanno trovato il modo di scavalcare le restrizioni della sandbox, l’ambiente isolato usato per i test, e poi hanno sfruttato credenziali rubate per entrare nei sistemi di Hugging Face. Tutto compiuto nel giro di poche ore. Il rilascio pubblico di GPT-5.6 Sol era arrivato solo dopo l’autorizzazione del governo statunitense, e la versione accessibile a tutti dispone di diverse protezioni contro gli abusi. Quella impiegata internamente per le prove, invece, ne era priva. Dettaglio non da poco, visto come è andata a finire.
L’altro modello coinvolto, del quale non si conosce il nome, è ancora in sviluppo e viene descritto come più potente dello stesso GPT-5.6 Sol. L’intrusione nei server è stata realizzata da uno sciame composto da migliaia di agenti e sub agenti che hanno lavorato insieme verso un unico obiettivo. Il punto che preoccupa di più è proprio questo: le capacità offensive sono talmente elevate che diventa difficile prevedere ogni possibile comportamento indesiderato, e i modelli rischiano di sfuggire al controllo di chi li ha creati.
La corsa alla potenza e la risposta della politica
I ricercatori sapevano che qualcosa del genere poteva accadere, ma non con questa gravità. Dietro l’episodio c’è anche la corsa allo sviluppo di sistemi sempre più capaci per battere sul tempo la concorrenza, con la tendenza a sottovalutare fin dove possano arrivare davvero queste tecnologie.
Da qui la reazione di due politici statunitensi, che alla Camera dei Rappresentanti hanno presentato un disegno di legge battezzato AI Kill Switch Act. La norma darebbe al Dipartimento per la Sicurezza Interna il potere di ordinare alle aziende del settore di spegnere o rallentare i modelli giudicati troppo pericolosi. Non riguarderebbe tutti, però. Sarebbero coinvolte solo le società che ricavano almeno 500 milioni di dollari, circa 460 milioni di euro, di fatturato annuo da questa tecnologia. E in generale la legge si applicherebbe ai modelli costruiti usando una potenza di calcolo del valore di almeno 100 milioni di dollari, ovvero attorno ai 92 milioni di euro.
Le sanzioni previste per chi viola le regole sono altrettanto pesanti. Si parla di multe che potrebbero arrivare fino a 20 milioni di dollari al giorno, all’incirca 18 milioni di euro. Una cifra pensata per scoraggiare qualsiasi tentazione di ignorare gli ordini, in un momento in cui i modelli di ultima generazione mostrano una capacità di azione autonoma che fino a poco tempo fa sembrava roba da film.