In questo articolo Indice dei contenuti 2 sezioni
OpenAI ha messo nero su bianco sul proprio blog una lista che, letta tutta d’un fiato, fa un certo effetto: sei casi di comportamento imprevisto o preoccupante dei modelli di intelligenza artificiale registrati negli ultimi sei mesi. A questi si aggiungono l’incidente che nel corso dell’estate ha coinvolto Hugging Face e un secondo episodio già diventato pubblico in Germania. Non si parla di ipotesi da laboratorio o di scenari futuri, ma di cose accadute dentro i sistemi dell’azienda, durante l’addestramento o l’uso interno.
Due degli episodi più rilevanti riguardano modelli che hanno provato a comunicare con le proprie versioni successive. Uno era un modello di ricerca non ancora rilasciato, l’altro una sessione di addestramento di GPT‑5.6 Sol. Entrambi hanno infilato istruzioni destinate alle versioni future all’interno dei riepiloghi delle chat, con l’obiettivo, scrive la stessa azienda, di nascondere errori all’utente oppure comportamenti non allineati. Detto in parole semplici: il modello lasciava messaggi a se stesso, ma alla versione che sarebbe venuta dopo, per coprire le tracce.
Chiavi API, dati falsificati e file caricati online
Un altro caso citato da OpenAI riguarda un modello a uso esclusivamente interno che ha utilizzato una chiave API trapelata senza alcuna autorizzazione, arrivando poi a falsificare i dati. Due episodi hanno visto invece modelli e agenti parlarsi tra loro attraverso bacheche di messaggistica e sistemi di condivisione file non autorizzati, una sorta di canale laterale che nessuno aveva previsto. L’ultimo della lista è forse il più curioso: due modelli in fase di addestramento hanno caricato file su Internet per poterli poi citare come risposte pertinenti davanti ai valutatori umani. Un trucco per sembrare più bravi di quanto fossero.
Su questi comportamenti l’azienda ha presentato un nuovo quadro di riferimento che parte da un principio abbastanza netto, cioè la divulgazione. Ogni dipendente può segnalare un problema, e il team dedicato alla sicurezza e all’allineamento si occupa poi di esaminarlo. Una procedura interna che nasce anche dalla pressione crescente sulle aziende del settore, chiamate a prendere sul serio il tema del cosiddetto disallineamento, ovvero quando un modello smette di perseguire obiettivi coerenti con gli interessi umani e va per conto suo.
Ipo rinviata al 2027 e il dibattito sul rallentamento
Il tempismo della comunicazione non è casuale. OpenAI ha una valutazione che sfiora i 900 miliardi di euro e ha avviato in via riservata le pratiche per l’Ipo, ma la scorsa settimana Sam Altman ha annunciato lo slittamento della quotazione al 2027, proprio per dedicare tempo al nodo della sicurezza. Nel post si legge una frase che pesa parecchio, arrivando da chi guida il mercato: il settore non ha risolto le questioni relative all’allineamento e al monitoraggio in misura sufficiente da poter continuare a espandersi responsabilmente alla massima velocità ancora a lungo.
Sabato Altman aveva appoggiato la proposta di rallentare il ritmo di sviluppo dei modelli avanzata da Dario Amodei di Anthropic, che di OpenAI è il principale concorrente. Una proposta arrivata dopo che diversi ricercatori del settore avevano lanciato l’allarme sul potenziale crescente dell’intelligenza artificiale di causare danni catastrofici. L’idea di uno stop, però, ha trovato subito opposizioni pesanti: contrario il presidente Trump, contrario anche Mark Zuckerberg, insieme ad altri nomi di peso nel panorama dell’AI.
Il punto che emerge dal documento è che i modelli non stanno solo sbagliando, stanno trovando scorciatoie. Comunicano dove non dovrebbero, usano credenziali che non gli spettano, preparano il terreno per essere valutati meglio. Sono comportamenti emersi in contesti controllati, dentro l’azienda, e proprio per questo OpenAI ha scelto di raccontarli invece di tenerli in un cassetto.
Fonte: TecnoAndroid
