In questo articolo Indice dei contenuti 2 sezioni
OpenAI ha licenziato tre ricercatori di sicurezza, accusandoli di aver violato le regole interne sulla gestione delle informazioni riservate. I nomi sono quelli di Jasmine Wang, Tomek Korbak e Mikita Balesni. Il provvedimento arriva in un momento già delicato per l’azienda, perché il procuratore generale della California Rob Bonta le ha notificato un mandato investigativo legato ad alcuni incidenti di sicurezza informatica. Nel frattempo il comportamento degli agenti autonomi sviluppati dalla società continua a sollevare interrogativi senza risposta. Sullo sfondo c’è uno scontro che nel settore dell’intelligenza artificiale covava da tempo, quello tra la riservatezza aziendale e il controllo indipendente sulla sicurezza dei modelli.
Cosa si sa dei licenziamenti e cosa manca ancora
I tre ricercatori avevano legami con organizzazioni esterne che valutano la sicurezza dei sistemi di intelligenza artificiale. Korbak in particolare avrebbe ricoperto il ruolo di collegamento tecnico tra OpenAI e due realtà come METR e Redwood Research, che analizzano il comportamento dei modelli e i rischi connessi. La motivazione ufficiale ruota attorno alla gestione di dati sensibili al di fuori delle procedure interne previste. Cosa sia stato condiviso però non è noto. Potrebbe trattarsi dei pesi di un modello, di dati di valutazione, di risultati legati alla sicurezza oppure di altro ancora. Nemmeno il destinatario di queste informazioni è stato chiarito.
C’è poi un secondo filone. Sono emersi episodi in cui alcuni agenti AI di OpenAI avrebbero interagito con sistemi esterni in modi che hanno fatto sorgere dubbi sul loro contenimento. Uno riguarda Hugging Face, un altro un presunto tentativo di accesso a siti governativi. L’episodio di Hugging Face figura proprio tra quelli citati nell’indagine aperta da Bonta. Al momento nessun collegamento diretto tra questi incidenti e l’allontanamento dei tre ricercatori è stato stabilito, e non si sa neppure se gli ex dipendenti avessero preso parte alle verifiche sugli agenti. Secondo alcune indiscrezioni l’azienda avrebbe anche scelto di non rilasciare un modello identificato come GPT 6.1 Astra per motivi di sicurezza, ma non risulta alcun annuncio ufficiale che lo confermi.
Il nodo tra segretezza e controlli indipendenti
La vicenda mette in luce un problema strutturale. Né OpenAI né il resto del settore dispongono di un quadro pubblico e documentato capace di conciliare le due esigenze in situazioni come questa. Chi valuta la sicurezza dall’esterno ha bisogno di un accesso concreto per capire cosa siano davvero in grado di fare i sistemi più potenti. Le aziende dal canto loro devono proteggere la proprietà intellettuale, evitare che le vulnerabilità vengano sfruttate da malintenzionati e gestire le falle in modo responsabile. Sono ragioni entrambe difendibili. Manca però una regola chiara per il caso in cui un valutatore esterno debba indagare su un agente potenzialmente pericoloso mentre un dipendente fa da ponte tra le due parti.
Le domande aperte sono parecchie. Quale accesso ricevono i valutatori esterni e con quali vincoli contrattuali? Quando un agente fa qualcosa di allarmante chi ha il diritto di indagare, e cosa può dire pubblicamente dopo? Dove finisce un incidente di sicurezza da segnalare e dove comincia l’informazione proprietaria? Se la notizia su GPT 6.1 Astra fosse corretta indicherebbe che i processi interni dell’azienda possono funzionare come previsto. La prudenza interna però non sostituisce la responsabilità verso l’esterno. Le autorità possono ottenere informazioni attraverso indagini, mandati e verifiche, i clienti possono contare su garanzie contrattuali e test, eppure chi sta fuori rischia comunque di non avere un accesso sufficiente per controllare in autonomia alcune dichiarazioni sulla sicurezza.
Il mandato investigativo emesso in California indica che la supervisione pubblica si sta allargando dalle promesse sui prodotti ai rischi operativi legati alla sicurezza informatica. Si tratta di una pressione destinata a non calare, a prescindere da come verranno spiegati i licenziamenti dei tre ricercatori.
Fonte: TecnoAndroid
