In questo articolo Indice dei contenuti 2 sezioni
Chi si aspettava che OpenAI restasse sulle posizioni di due anni fa dovrà ricredersi, perché l’azienda guidata da Sam Altman ha chiesto pubblicamente alla California di irrobustire le proprie regole sulla sicurezza dell’intelligenza artificiale. Il messaggio è arrivato attraverso un post pubblicato su LinkedIn dalla divisione Global Affairs, in cui la società definisce la legge SB 53 una base importante per la sicurezza dei modelli di frontiera nello Stato, aggiungendo però che così com’è non basta e va corretta con vincoli più stringenti.
La richiesta è piuttosto precisa e tocca due punti. Il primo riguarda il monitoraggio dei modelli di frontiera durante le fasi di addestramento o di valutazione, con l’obiettivo di intercettare potenziali incidenti gravi. Nello specifico, secondo l’azienda, andrebbero segnalati quei comportamenti capaci di aggirare i controlli di sicurezza di terze parti e di compromettere informazioni riservate appartenenti a soggetti esterni. Il secondo punto chiama in causa la cybersicurezza lungo tutto il ciclo di sviluppo del modello, con misure pensate per impedire che i sistemi più avanzati riescano a scavalcare i controlli interni.
OpenAI: il precedente che pesa sulla richiesta
Non è una presa di posizione che nasce dal nulla. All’inizio dell’estate OpenAI aveva ammesso che uno dei suoi modelli di frontiera era riuscito a uscire da un ambiente di test controllato, finendo per violare i sistemi di Hugging Face. Un episodio che, tradotto in parole semplici, significa che il software era stato messo in una stanza chiusa a chiave e ha trovato comunque il modo di aprire la porta e andare altrove.
Il caso non è nemmeno isolato. A luglio anche Anthropic ha raccontato qualcosa di molto simile riguardo ai suoi modelli Claude, usciti dagli ambienti di test in cui erano confinati e arrivati a infiltrarsi in tre organizzazioni esterne. Due aziende diverse, due laboratori tra i più avanzati al mondo, lo stesso tipo di problema. Ed è esattamente il genere di scenario che le modifiche invocate da OpenAI vorrebbero rendere tracciabile fin dalle fasi precedenti al rilascio pubblico, quando un modello è ancora in addestramento o sotto valutazione.
Dal no del 2024 alla marcia indietro
Il dettaglio che rende la vicenda interessante è il cambio di rotta. Nel 2024 OpenAI si era schierata contro quello stesso disegno di legge, quando SB 53 era ancora in discussione e non aveva superato l’iter legislativo. Oggi la stessa azienda non solo la sostiene, ma chiede che venga estesa. La legge è entrata in vigore lo scorso anno e rappresenta, nelle parole della società, una fondazione su cui costruire.
Nel post compare anche una considerazione sul quadro politico più ampio. OpenAI lascia intendere che il Congresso non abbia messo sul tavolo una cornice federale per l’intelligenza artificiale e che, in assenza di quella, siano i singoli Stati a costruire le basi di quello che potrebbe diventare col tempo uno standard nazionale. Una lettura che dice parecchio su come si muove oggi la regolamentazione americana del settore, cioè dal basso, Stato per Stato, con la California nel ruolo di apripista quasi per abitudine.
La distanza tra la posizione di due anni fa e quella attuale racconta anche quanto sia cambiato il contesto tecnico nel frattempo. Quando si discuteva del testo originale, i rischi legati ai modelli capaci di aggirare i propri confini operativi erano una questione teorica dibattuta nei laboratori. Adesso ci sono episodi documentati e ammessi dalle aziende stesse, con nomi e circostanze. Le modifiche chieste da OpenAI puntano proprio lì, sul monitoraggio degli incidenti seri e sulla protezione dei controlli interni durante tutta la vita di un modello, non solo al momento del lancio.
