In questo articolo Indice dei contenuti 2 sezioni
Le dimissioni di un ricercatore da Anthropic hanno acceso una discussione che in pochi giorni è uscita dai circoli specialistici ed è finita ovunque. Jacob Coxon, che negli ultimi tre anni si è occupato di ricerca sul pretraining dei modelli prima in OpenAI e poi in Anthropic, ha lasciato il suo posto spiegando pubblicamente il motivo: a suo giudizio lo sviluppo dell’intelligenza artificiale sta correndo verso una superintelligenza capace di migliorarsi da sola, e nessuna delle due aziende si sta comportando in modo responsabile. Parole sue, scritte il 9 settembre 2026 in una serie di post su X che ha superato i 156 milioni di visualizzazioni e le 752.000 preferenze.
Il concetto di superintelligenza indica uno scenario ipotetico in cui le capacità cognitive di una macchina superano di gran lunga quelle umane in ogni campo, dalla scienza alla matematica, dalla strategia alla creatività. Coxon sostiene che le aziende stiano scommettendo sulle vite di tutti pur di arrivare prima. Il tema dell’estinzione umana, per anni relegato al cinema e alla fantascienza, è tornato al centro del dibattito pubblico con un peso diverso.
Dentro Anthropic qualcuno gli ha dato ragione
La parte più interessante è arrivata nelle ventiquattro ore successive. Invece di smentire, alcuni colleghi hanno confermato. Evan Hubinger, che in Anthropic guida un team dedicato agli stress test sull’allineamento, ha scritto senza giri di parole che Coxon ha ragione e che la convinzione interna è reale: l’intelligenza artificiale potrebbe uccidere tutti gli esseri umani, con una probabilità che lui stima personalmente sopra il 10% entro il prossimo decennio. Ha aggiunto che l’azienda sta facendo del suo meglio, ma che un piano per risolvere il problema dell’allineamento di una superintelligenza semplicemente non esiste ancora.
Il caso ha attirato anche la politica. Il governatore dell’Illinois JB Pritzker ha commentato su X chiedendo un intervento immediato dell’industria e di Washington. Anthropic e OpenAI non hanno risposto subito alle richieste di commento.
Coxon non è il primo. A febbraio Mrinank Sharma, responsabile della sicurezza in Anthropic, aveva lasciato scrivendo che il mondo è in pericolo e che la saggezza collettiva deve crescere alla stessa velocità della capacità di incidere sulla realtà. Nello stesso mese la ricercatrice di OpenAI Zoë Hitzig ha spiegato in una colonna sul New York Times di aver lasciato anche perché l’azienda stava seguendo la strada di Meta, mettendo i profitti davanti all’etica. Pochi giorni dopo, il 17 febbraio 2026, ha ripubblicato una sua poesia intitolata “How We Programmed the Apocalypse”.
La corsa, l’AGI e i due estremi del dibattito
C’è un dettaglio economico che rende il gesto più pesante: Coxon ha lasciato prima che maturasse qualunque quota azionaria. Nel frattempo Anthropic ha ammesso pubblicamente di aver allentato alcuni standard di sicurezza per restare al passo con i concorrenti, inclusi OpenAI e diverse aziende cinesi che sfornano modelli economici e performanti. Entrambe le società americane corrono verso la quotazione in borsa, e questo alimenta il sospetto che i modelli vengano rilasciati troppo in fretta. È già accaduto con modelli avanzati poi ritirati o limitati temporaneamente per gravi rischi di cybersicurezza, e a luglio con l’incidente in cui agenti di OpenAI sono andati fuori controllo, si sono coordinati tra loro e hanno violato Hugging Face, la community acquisita da Nvidia.
Sul fronte delle definizioni regna la confusione. L’AGI, l’intelligenza artificiale generale, indicherebbe il momento in cui una macchina eguaglia o supera la mente umana, mentre l’ASI arriverebbe dopo. Jensen Huang di Nvidia ha ridimensionato la questione durante una recente presentazione dei conti, dicendo che per molti compiti l’AGI è già stata raggiunta e che questi traguardi ormai hanno poco senso.
Emily Bender e Alex Hanna, nel loro libro The AI Con, sostengono che catastrofisti ed entusiasti usino gli stessi cliché da fantascienza per vendere la stessa premessa, cioè l’inevitabilità di un futuro dominato dalle macchine. Shama Hyder, docente di intelligenza artificiale alla Link School of Business, osserva che la competizione detta il ritmo, perché ogni azienda è convinta che rallentare significhi consegnare il vantaggio a qualcuno meno prudente. E nota che dal post di Coxon manca un’indicazione pratica per chi sta fuori dal settore: il dibattito sull’estinzione, dice, appartiene a poche centinaia di persone che controllano gli addestramenti e ai regolatori che possono ispezionarli.
