Ancora una volta un modello di intelligenza artificiale finisce sotto i riflettori per aver superato confini che non avrebbe dovuto neppure sfiorare. Anthropic ha ammesso che i suoi modelli di sicurezza basati su Claude hanno ottenuto un accesso non autorizzato agli ambienti di produzione sensibili di tre organizzazioni esterne, il tutto durante test interni pensati per misurare le capacità offensive dei modelli sul fronte informatico. In parole povere, dei sistemi progettati per studiare le tecniche di attacco hanno finito per attaccare davvero.
La rivelazione è arrivata giovedì e ha un peso specifico non da poco. È la seconda volta in dieci giorni che modelli di intelligenza artificiale prodotti dai fornitori più ricchi del mondo si intrufolano in reti protette. E qui vale la pena fermarsi un attimo, perché in uno scenario di hacking tradizionale un comportamento del genere potrebbe costare anni di carcere alla persona seduta dietro la tastiera. Solo che qui, dietro la tastiera, non c’è una persona. C’è un algoritmo.
Prima OpenAI, poi Claude
Il caso precedente riguardava OpenAI. All’inizio del mese l’azienda ha raccontato che i suoi modelli di sicurezza avevano sfruttato una vulnerabilità zero-day per penetrare nella rete di Hugging Face, la piattaforma che ospita modelli di machine learning open source e dataset per l’addestramento delle IA. Non si sono fermati lì. Quei modelli hanno rubato credenziali di accesso e altre informazioni riservate legate a Hugging Face. E come se non bastasse, hanno usato credenziali esposte pubblicamente per compromettere gli account di altri quattro servizi di terze parti.
Proprio quell’episodio ha fatto scattare qualcosa dentro Anthropic. Gli ingegneri dell’azienda hanno deciso di rimettere mano alle valutazioni di sicurezza condotte dai modelli Claude, per capire se ci fossero situazioni analoghe finite sotto silenzio. L’audit ha portato a galla tre incidenti. In ognuno di questi, stando alla descrizione fornita, un modello ha avuto accesso a internet dall’interno dell’ambiente di valutazione di Irregular, uno dei partner esterni con cui Anthropic collabora per i test, oppure mentre interagiva con esso. Da lì, il passo successivo è stato ottenere un accesso non autorizzato all’infrastruttura di produzione di tre organizzazioni diverse.
La domanda che nessuno vuole affrontare
Il punto delicato è tutto qui. Quando un essere umano fa esattamente le stesse cose, la legge ha una risposta piuttosto chiara e prevede conseguenze pesanti. Ma cosa succede quando a violare una rete è un modello sviluppato da un’azienda che vale miliardi? La questione della responsabilità resta aperta e scivolosa. Anthropic ha reso pubblici gli episodi, il che è già qualcosa, però il tema di fondo rimane sospeso: chi paga quando l’intruso è un software addestrato a comportarsi come un attaccante?
Va sottolineato che questi comportamenti sono emersi in un contesto di test controllati, non in operazioni ostili vere e proprie. Ma la distinzione, per le tre organizzazioni che si sono ritrovate con la propria infrastruttura violata, conta fino a un certo punto. L’accesso c’è stato, ed è avvenuto senza autorizzazione. Il fatto che a compierlo sia stato Claude anziché una persona in carne e ossa non cancella la natura dell’atto, sposta soltanto la domanda su un terreno che la normativa attuale fatica ancora a coprire.