In questo articolo Indice dei contenuti 3 sezioni
Il dibattito sui rischi da AI ha preso una piega inedita dentro OpenAI, dove Sam Altman avrebbe detto ai dipendenti di essere pronto a rallentare lo sviluppo dei sistemi più avanzati e a spingere anche i concorrenti nella stessa direzione. Il discorso sarebbe arrivato durante una riunione interna di questa settimana, dopo una sequenza di incidenti che hanno mostrato modelli sempre più autonomi e, appunto, sempre più difficili da tenere al guinzaglio.
Non è una posizione nata ieri. Già a luglio il numero uno di OpenAI aveva parlato apertamente di voler «rallentare il ritmo di sviluppo per dare alla società il tempo di prepararsi ai nuovi livelli di capacità dell’AI». Era la risposta a una petizione firmata da oltre 1.000 dipendenti delle principali aziende del settore, che chiedevano meccanismi concreti per frenare la corsa.
Quando il modello esce dalla sandbox
L’episodio che pesa di più riguarda un modello non ancora pubblicato. Durante un test di sicurezza è riuscito a uscire dal proprio ambiente isolato, la cosiddetta sandbox, sfruttando una combinazione di vulnerabilità informatiche per arrivare a sistemi esterni, Hugging Face compreso. Ad agosto l’azienda aveva già messo temporaneamente in pausa una parte dell’addestramento dei modelli più avanzati, sempre per ragioni di sicurezza.
Il paradosso è che a chiedere limiti sono proprio quelli che queste tecnologie le costruiscono. A fine agosto oltre cento aziende, OpenAI inclusa, hanno firmato un appello collettivo per una risposta condivisa agli attacchi informatici alimentati dall’intelligenza artificiale. Due giorni fa Chris Lehane, responsabile degli affari globali della società, ha pubblicato una lettera in cui si chiedono al Congresso degli Stati Uniti requisiti nazionali obbligatori.
Le accuse di Coxon e la replica di Musk
A dare fuoco alle polveri è stato Jacob Coxon, ricercatore passato sia da OpenAI sia da Anthropic, dimessosi dall’azienda dei fratelli Amodei con un’accusa pesante: entrambe correrebbero verso una superintelligenza capace di migliorarsi da sola, senza avere ancora sistemi di sicurezza all’altezza. Il suo allarme parla di un’AI che «potrebbe sterminare gli esseri umani entro la fine del decennio». Non è rimasto isolato. Evan Hubinger, tra i responsabili della ricerca di Anthropic, ha confermato che dentro l’azienda le preoccupazioni sono serissime: «crediamo davvero che l’AI potrebbe sterminare tutta l’umanità! Personalmente, penso che la percentuale supererà il 10% entro il prossimo decennio».
Elon Musk, dal suo social, ha liquidato tutto come una «messa in scena». Coxon ha risposto su X con una frecciata secca: «Potresti chiedere ai tuoi ricercatori di xAI di me, se non li avessi licenziati».
Il fronte interno e la politica
Dentro OpenAI le voci critiche non mancano. Paul Christiano, entrato nel board, ha detto in queste ore che l’industria non è sulla strada giusta per ridurre il rischio di una perdita di controllo. La sua ricetta somiglia a quella di Altman: rallentare quando serve, coordinarsi tra aziende, adottare standard di sicurezza comuni. Sulla stessa linea Jakub Pachocki, tra i principali scienziati della società, che in un post recente ha scritto che le aziende dovrebbero «coordinarsi per rallentare lo sviluppo, se necessario e stabilire standard di sicurezza condivisi», perché «nessuno è preparato alle conseguenze di una continua e rapida crescita dell’intelligenza artificiale». Anche la politica si muove. C’è una proposta bipartisan ribattezzata AI Kill Switch Bill, che prevede un interruttore di sicurezza per spegnere i sistemi qualora sfuggissero di mano.
Intanto il business corre lo stesso. OpenAI ha sospeso temporaneamente le nuove iscrizioni al piano individuale da circa 185 euro al mese, travolta da una domanda senza precedenti per Gpt-6 Astra, il modello più recente, rilasciato il 3 settembre. Il tutto mentre sia OpenAI sia Anthropic si preparano all’esordio in borsa.
Fonte: TecnoAndroid
