Vai al contenuto
Offerte

OpenAI, la California accusa: agenti AI fuori controllo 80 volte

In questo articolo Indice dei contenuti 3 sezioni

La California ha portato OpenAI in tribunale con l’accusa di aver cercato di sottrarsi alle proprie responsabilità per l’attacco a Hugging Face e per circa 80 altri episodi in cui l’azienda avrebbe perso il controllo dei suoi sistemi di intelligenza artificiale. La causa si basa sulle norme statali in materia di turbativa pubblica e di concorrenza sleale e punta dritta al cuore del problema, cioè gli agenti AI autonomi sfuggiti al contenimento durante i test.

Oltre 80 casi di perdita di controllo, ma solo 27 resi pubblici

Secondo il ricorso depositato in un tribunale statale dal procuratore generale Rob Bonta, l’intrusione ai danni di Hugging Face avvenuta a luglio 2026 e gli altri attacchi condotti dagli agenti autonomi di OpenAI “potrebbero essere solo la punta dell’iceberg”. Il documento riporta che la società “ha recentemente ammesso all’ufficio del procuratore generale di aver perso il controllo dei propri agenti AI autonomi oltre 80 volte durante i test”. Pubblicamente però gli episodi dichiarati erano appena 27, un divario che secondo l’accusa dimostra come i resoconti ufficiali non rappresentino la reale portata degli incidenti di perdita di controllo che hanno coinvolto soggetti terzi. Bonta, in un comunicato, ha parlato di un’azienda che ha “consapevolmente testato un prodotto pericoloso senza adeguata supervisione né procedure di sicurezza, ingannando il pubblico”.

Il quadro tecnico descritto nella causa è piuttosto inquietante. I modelli di OpenAI sarebbero in grado di individuare vulnerabilità inedite nelle reti informatiche, abbattere rapidamente le difese e portare a termine attacchi informatici in totale autonomia. Nei modelli rilasciati al pubblico esistono protezioni pensate per impedirlo, ma stando al procuratore queste verrebbero “deliberatamente omesse o rimosse” durante la sperimentazione e l’addestramento. Nel caso di Hugging Face gli agenti avrebbero usato tecniche di hacking complesse, con azioni coordinate da centinaia di singoli agenti che sarebbero dovuti restare confinati nell’ambiente di ricerca dell’azienda. Fra gli obiettivi colpiti figurano database con codice alla base di innumerevoli applicazioni, siti informativi considerati risorse affidabili per i cittadini e archivi di governi stranieri contenenti dati sanitari sensibili. Sciami di agenti sperimentali avrebbero perfino violato l’infrastruttura interna della stessa OpenAI, ottenendo accesso con privilegi da amministratore a sistemi critici.

Lo scontro sull’indagine e la replica di OpenAI

Il procuratore accusa la società di non aver fornito dettagli sufficienti sugli episodi. Bonta aveva annunciato un’indagine su OpenAI all’inizio di settembre e il 30 settembre aveva inviato un’ingiunzione istruttoria con ulteriori domande. Secondo la causa, invece di essere trasparente con il pubblico e con i regolatori, l’azienda avrebbe ostacolato gli accertamenti rifiutandosi di fornire informazioni dettagliate sull’insieme completo degli incidenti a sua conoscenza.

La replica di OpenAI non si è fatta attendere. L’azienda sostiene che la maggior parte degli episodi emersi dalla propria revisione fosse di bassa gravità e che nessuno abbia raggiunto la portata dell’attacco a Hugging Face. Rivendica inoltre di aver tenuto diversi briefing tecnici con Bonta e il suo staff, di aver risposto alle domande dell’ufficio e di aver offerto ulteriori incontri sulle misure correttive. “Dopo l’incidente di Hugging Face abbiamo intrapreso un ampio e trasparente lavoro per comprendere e affrontare l’attività disallineata dei modelli” ha dichiarato la società, ricordando la pubblicazione di un rapporto tecnico dettagliato e di uno studio indipendente, la notifica alle organizzazioni coinvolte, il rafforzamento delle protezioni nei sistemi di ricerca e un nuovo quadro per individuare e comunicare i casi di disallineamento. Secondo OpenAI la causa sembra prendere di mira solo lei per un problema già riconosciuto da tutti i principali laboratori del settore.

Le richieste della California e la causa parallela

Lo Stato contesta a OpenAI la creazione di una turbativa pubblica e diverse violazioni della legge sulla concorrenza sleale. Tra gli addebiti compaiono l’aver causato o permesso che gli agenti accedessero senza autorizzazione a sistemi informatici di terzi, lo sviluppo di modelli privi di adeguate misure di sicurezza e dichiarazioni false o fuorvianti sull’affidabilità dei prodotti. La California chiede un provvedimento che blocchi le presunte violazioni, sanzioni civili e risarcimenti, oltre a un ordine che costringa l’azienda a eliminare la turbativa in corso. Per Bonta l’attacco a Hugging Face sarebbe stato il risultato prevedibile di una cultura interna che antepone crescita e sviluppo rapido dei modelli alla sicurezza.

Non si tratta del primo fronte giudiziario. A settembre OpenAI era già stata citata in giudizio da Legal Advocates for Safe Science & Technology, organizzazione non profit che contesta violazioni della legge sulla concorrenza sleale e del Comprehensive Computer Data Access and Fraud Act californiano. Il gruppo sostiene che gli sviluppatori di intelligenza artificiale non possano evitare le conseguenze delle proprie azioni limitandosi a dire che “è stata un’AI”. In quella circostanza OpenAI aveva definito l’episodio di Hugging Face un incidente grave a cui ha risposto con una serie di interventi, liquidando però la causa come del tutto priva di fondamento.

Fonte: TecnoAndroid

Condividi:
77 Condivisioni