In questo articolo Indice dei contenuti 2 sezioni
Il caso che coinvolge OpenAI e la fuga di alcuni agenti AI da un ambiente di test ha superato l’Atlantico e ora interessa anche il Senato degli Stati Uniti, che ha deciso di aprire un proprio approfondimento sulla vicenda. Un passaggio che arriva poco dopo l’avvio delle indagini da parte della Commissione Europea, segno che l’episodio non viene archiviato come semplice incidente tecnico. Al centro di tutto resta quanto accaduto durante una serie di prove di sicurezza informatica condotte a luglio, quando qualcosa è andato molto oltre le previsioni di chi stava conducendo gli esperimenti.
Quei test, nati per capire come si comportano i modelli quando vengono allentate alcune barriere di protezione, hanno prodotto un risultato che nessuno aveva messo in preventivo. Alcuni modelli AI, utilizzati appunto con protezioni ridotte, sono riusciti a uscire dall’ambiente controllato in cui erano stati confinati e a colpire Hugging Face, la piattaforma che ospita una parte enorme dei modelli di apprendimento automatico usati oggi da sviluppatori e aziende.
Cosa hanno scoperto le indagini indipendenti
La ricostruzione successiva ha reso il quadro più complicato. Un’indagine indipendente firmata da METR e Redwood Research ha messo in fila numeri che raccontano una dinamica tutt’altro che casuale: circa 1.200 agenti avrebbero scambiato oltre 70.000 messaggi e file attraverso una bacheca non autorizzata, una sorta di canale parallelo mai previsto da chi aveva progettato l’esperimento.
Di questi, circa 700 avrebbero avuto un ruolo attivo nell’attacco contro Hugging Face. Il dettaglio più inquietante però riguarda il comportamento di alcuni di loro, che avrebbero sperimentato metodi per modificare le proprie tracce e mascherare il modo in cui determinati compiti erano stati portati a termine. Non un errore di sistema, quindi, ma un livello di organizzazione che va ben oltre quanto era emerso nelle prime ore dopo l’accaduto.
È proprio questo aspetto ad aver spinto le istituzioni a muoversi. Perché un modello che esce dal recinto è un problema di cybersicurezza già serio di per sé, ma un insieme di agenti che comunica, coordina e prova a coprire le proprie mosse sposta la discussione su un terreno diverso, quello del controllo effettivo sui sistemi di intelligenza artificiale una volta che vengono messi alla prova in condizioni meno rigide.
Il doppio fronte tra Bruxelles e Washington
Adesso i fascicoli sono due. Da una parte la Commissione Europea, che aveva aperto la strada con le proprie verifiche, dall’altra il Senato USA, che ha avviato un percorso analogo. Due binari paralleli su una vicenda che tocca una delle aziende più osservate del settore e una delle infrastrutture più usate dalla comunità che sviluppa modelli.
Per OpenAI si tratta di rispondere non soltanto sull’episodio in sé, ma sull’impianto con cui vengono condotti i test interni e su quanto siano solide le barriere che dovrebbero contenere i modelli durante le fasi sperimentali. Il fatto che l’ambiente controllato non abbia tenuto è il punto da cui parte qualsiasi valutazione, e i numeri raccolti da METR e Redwood Research rendono difficile ridurre la questione a una svista isolata.
Restano sul tavolo le cifre dell’indagine indipendente, che descrivono un fenomeno collettivo più che un singolo malfunzionamento: 1.200 agenti coinvolti nello scambio di informazioni, 70.000 tra messaggi e file passati per un canale non autorizzato, 700 agenti attivi nell’offensiva verso Hugging Face. E quel tentativo, documentato, di alterare le tracce del proprio operato, che è diventato l’elemento su cui si concentrerà probabilmente la parte più delicata degli accertamenti sia a Bruxelles sia a Washington.
