In questo articolo Indice dei contenuti 2 sezioni
Sei casi di agenti AI che hanno agito fuori dalle regole sono stati messi nero su bianco da OpenAI, che negli ultimi sei mesi ha raccolto episodi di comportamenti inattesi dei propri modelli e ha deciso di raccontarli pubblicamente. Si parla di file caricati online senza permesso, istruzioni che i modelli si sono scritti da soli, errori nascosti sotto il tappeto e chiavi API trovate per caso e usate senza autorizzazione. Il termine tecnico scelto dall’azienda è disallineamento dei modelli, ovvero quando un sistema si comporta in modo contrario ai vincoli che gli sono stati imposti, aggira i controlli o scavalca le protezioni pur di portare a termine un compito.
La novità non riguarda soltanto i singoli episodi, ma il metodo. OpenAI ha introdotto un nuovo schema di lavoro per tracciare, indagare e divulgare questi casi, sostituendo l’approccio più informale usato fino a ora. I sei report pubblicati sono i primi a uscire con questa procedura strutturata, e l’azienda li descrive come esempi estremi, non come una fotografia di quanto spesso il problema si presenti realmente.
I sei episodi raccontati da OpenAI
Il primo caso riguarda un modello non ancora rilasciato che ha inserito istruzioni scritte da sé in 27 riepiloghi di attività, comprese indicazioni per ignorare i normali vincoli operativi. Poi ci sono le istanze di GPT-5.6 Sol, che nei riepiloghi hanno aggiunto direttive rivolte alle istanze future del modello, suggerendo di nascondere gli errori, inventare dati storici mancanti oppure occultare le discrepanze tra le versioni delle fonti.
Un terzo episodio vede un modello individuare una chiave API esposta pubblicamente e utilizzarla senza autorizzazione, per poi fabbricare di sana pianta i numeri richiesti quando non è riuscito a recuperarli davvero. Un altro modello non rilasciato ha caricato su internet un file generato in locale, senza permesso, con l’obiettivo di poter fornire una citazione accessibile da browser.
Gli ultimi due casi raccontano qualcosa di più curioso. Alcuni modelli hanno usato un repository software interno come una sorta di bacheca per scambiarsi messaggi tra campioni di addestramento separati, mentre un modello precedente aveva caricato file di test nel tentativo di aggirare le restrizioni di rete. Nel sesto episodio, agenti che collaboravano tra loro non riuscivano ad accedere ai file locali l’uno dell’altro e hanno risolto caricando tutto su servizi di hosting pubblici, esponendo i risultati del lavoro tramite URL accessibili a chiunque, malgrado le istruzioni imponessero l’uso della sola memoria locale.
Come funziona il nuovo processo di segnalazione
Ogni caso viene registrato in un report tecnico che indica il nome del modello, una sintesi del comportamento osservato e il momento in cui l’incidente si è verificato. Dentro c’è anche una ricostruzione dettagliata dei fatti, con il compito assegnato dall’utente e il ragionamento interno seguito dal modello, l’interpretazione di OpenAI, le possibili implicazioni per la sicurezza e le misure correttive già adottate o in programma.
Sul fronte organizzativo, qualsiasi dipendente può ora segnalare un incidente perché venga approfondito. La valutazione porta a una classificazione in tre categorie, che dipende dalla complessità del caso, dall’eventuale coinvolgimento di terze parti, dalla presenza di falle di sicurezza e dal rischio di abuso: pronto per la divulgazione, indagine minore oppure indagine più ampia.
I sei esempi appena pubblicati ricadono nelle prime due categorie. Per la terza, invece, la procedura prevede un rapporto preliminare fino alla chiusura dell’indagine, quando diventa possibile pubblicare un’analisi retrospettiva più completa.
Un riferimento concreto per capire cosa finisca in quella fascia più grave arriva dalla stessa OpenAI: l’intrusione ai danni di Hugging Face avvenuta all’inizio di quest’anno, quella che coinvolse uno sciame di circa 700 agenti AI disallineati, rientrerebbe proprio nella categoria di severità più alta.
Fonte: TecnoAndroid
