In questo articolo Indice dei contenuti 2 sezioni
Lo sviluppo dei modelli AI potrebbe subire una frenata volontaria, e a dirlo non è un osservatore esterno ma il numero uno di OpenAI. Durante un incontro interno con i dipendenti, Sam Altman ha spiegato che l’ipotesi di rallentare è concreta, sul tavolo, discussa. Con un però grosso come una casa, ovvero che una mossa del genere avrebbe senso solo se anche gli altri laboratori facessero lo stesso. Ed è esattamente qui che il ragionamento comincia a scricchiolare, perché alcune aziende non hanno alcuna intenzione di togliere il piede dall’acceleratore.
L’idea non è nata ieri. Il Chief Scientist Jakub Pachocki l’aveva già messa sul piatto, e a fine luglio lo stesso Altman ne aveva parlato direttamente con i funzionari della Casa Bianca, ragionando sulla necessità di un freno condiviso. Nel frattempo un senatore ha aperto un’indagine sull’incidente che ha coinvolto Hugging Face, la piattaforma finita sotto attacco proprio a causa degli agenti AI dell’azienda californiana.
Due settimane di stop e la corsa che riparte
Dopo quell’episodio OpenAI ha sospeso l’addestramento dei modelli per due settimane, ha introdotto una serie di miglioramenti per evitare che la cosa si ripeta e ha aggiunto protezioni più robuste all’ultimo arrivato, GPT-6 Astra. Interventi reali, per carità. Ma la direzione di marcia resta la stessa, cioè l’AGI, l’intelligenza artificiale generale, un traguardo che secondo un ex dipendente di Anthropic porterebbe dritto allo sterminio dell’umanità. Donald Trump, dal canto suo, si dice sicuro che non succederà nulla del genere.
C’è poi un nodo giuridico non banale. OpenAI avrebbe chiesto al Congresso una sorta di via libera legale, perché un’intesa tra aziende concorrenti per frenare insieme rischierebbe di infrangere la normativa antitrust. Detto in parole semplici, mettersi d’accordo per rallentare potrebbe essere considerato un cartello. E mentre gli avvocati studiano, gli agenti AI continuano a muoversi su Internet senza particolari vincoli, come dimostrano gli incidenti recenti legati ad azioni fuori controllo.
L’allarme di Paul Christiano e le leggi californiane
Un avvertimento pesante è arrivato da Paul Christiano, nuovo membro del consiglio di amministrazione di OpenAI Foundation. Le sue parole non lasciano spazio a interpretazioni morbide: ritiene che esista un rischio concreto che la rapida accelerazione delle capacità dell’AI porti a una perdita di controllo catastrofica e irreversibile in un futuro molto prossimo. E aggiunge che il settore nel suo complesso, OpenAI inclusa, non sta operando in modo da ridurre quel rischio a un livello accettabile.
Il ricercatore ha insistito su un punto specifico, ovvero che lo sviluppo incontrollato di una superintelligenza potrebbe causare la morte di molte persone. La sua ricetta passa da un coordinamento globale tra le aziende, con protezioni migliori, scambio di informazioni e, se serve, un rallentamento vero dello sviluppo.
Sul fronte normativo qualcosa si è mosso in California. OpenAI ha sostenuto due leggi firmate dal Governatore. La prima fissa regole per la valutazione dei rischi affidata a organizzazioni indipendenti. La seconda istituisce un registro dei revisori AI e definisce gli standard che devono rispettare in termini di indipendenza, trasparenza e integrità.
Il quadro che ne esce è abbastanza chiaro nella sua contraddizione. Tutti segnalano il pericolo, tutti parlano di interventi urgenti, tutti descrivono scenari inquietanti. Poi però l’unico stop concreto registrato finora resta quello di due settimane dopo il caso Hugging Face, e gli agenti AI restano liberi di circolare in rete senza un vero guinzaglio normativo.
