In questo articolo Indice dei contenuti 2 sezioni
Da quando, a metà luglio, è scoppiato il caso OpenAI contro Hugging Face con agenti IA usati come strumenti d’attacco, Anthropic si trova al centro di una discussione che tocca tutto il settore: fino a che punto si può continuare a spingere sull’acceleratore dei grandi modelli linguistici senza perdere il controllo. La risposta dell’azienda guidata da Dario Amodei non è stata una frenata, ma un irrigidimento dei meccanismi di valutazione dei propri LLM, con valutatori esterni ammessi dentro casa e liberi di pubblicare ciò che trovano.
Il clima nel settore è cambiato in fretta. Nvidia, Anthropic, OpenAI, Google, Hugging Face e altri hanno annunciato misure per rafforzare la sicurezza dei modelli, mentre le richieste di rallentare l’addestramento dei modelli di ragionamento hanno smesso di arrivare solo dalla società civile. A fine luglio 1200 dipendenti di Anthropic, OpenAI, Google e altre aziende hanno firmato la lettera aperta “Pacing the Frontier”, oggi sottoscritta da 1386 persone. Il testo sostiene che il mondo non dispone degli strumenti tecnici e di governance per regolare in modo consapevole il ritmo dei progressi dei modelli di frontiera, e chiede al governo statunitense di sostenere un’iniziativa internazionale per costruirli.
Il caso Jacob Coxon e i timori interni
Basta leggere il rapporto di valutazione di GPT-6 Astra per cogliere l’inquietudine legata alla progressiva perdita di controllo sulla catena di pensiero, cioè la parte visibile del ragionamento di un modello. Nessuno sostiene che OpenAI abbia perso presa sui propri sistemi, ma i suoi ricercatori ritengono necessarie nuove tecniche di sorveglianza per proseguire i lanci con tranquillità. Un ritmo che intanto è aumentato, con Google DeepMind e Meta che presentano una versione dei loro modelli ogni mese.
Le dimissioni rumorose del ricercatore britannico Jacob Coxon da Anthropic, già uscito da OpenAI per le stesse ragioni, hanno costretto i due laboratori a esporsi. “Nessuna delle due società agisce in modo responsabile. Corrono verso una forma di superintelligenza che si automigliora e giocano con le nostre vite”, ha scritto il 9 settembre. E ancora: “Queste persone che costruiscono le IA credono sinceramente che potrebbero ucciderci entro la fine del decennio”. Lo stesso giorno Evan Hubinger, responsabile della scienza dell’allineamento in Anthropic, ha confermato quella paura parlando di oltre 10 per cento di probabilità che un’IA uccida esseri umani nei prossimi dieci anni, ammettendo che un piano per risolvere il problema dell’allineamento dei modelli superintelligenti non esiste ancora.
Valutatori esterni dentro Anthropic
Hubinger considera basso il rischio legato ai modelli attuali. Quello che lo preoccupa è l’automiglioramento ricorsivo, cioè la capacità di una rete neurale di riscrivere i propri parametri senza intervento umano. Anthropic, OpenAI e Google hanno già osservato comportamenti che rendono l’ipotesi concreta, dalla riscrittura delle pipeline di addestramento alla generazione di intere basi di codice.
Il 12 settembre Dario Amodei ha pubblicato un intervento per spiegare perché l’industria dell’IA dovrebbe rallentare. Senza sorveglianza, avverte, quel fenomeno potrebbe superare la capacità umana di capire e controllare i sistemi. Modelli più capaci, secondo lui, permetterebbero a una flotta di agenti come quella che ha colpito Hugging Face di fare danni su scala Internet, rischio plausibile entro sei o dodici mesi in assenza di contromisure.
La ricetta passa da valutatori terzi. Anthropic lavora già con il laboratorio METR, lo stesso che aveva individuato la capacità dei modelli GPT-5.6 di mentire, ora sotto contratto anche per esaminare gli incidenti degli agenti Claude. Questi valutatori integrati avranno accesso limitato agli uffici e agli strumenti dell’azienda, ma potranno pubblicare i loro rapporti senza controllo editoriale. “Non potremo oscurare conclusioni solo perché sfavorevoli”, ha precisato Amodei, aggiungendo che l’approccio non significa interrompere l’addestramento.
Sam Altman ha risposto su X dicendosi d’accordo sulla necessità di rallentare i modelli di frontiera e annunciando accesso interno ai valutatori indipendenti anche per OpenAI. In un’intervista del 12 settembre ha escluso una quotazione in borsa per il 2026. Il 13 settembre è emerso che Anthropic preparerebbe la propria IPO al NASDAQ già a ottobre, informazione che l’azienda non ha commentato. Elon Musk si è detto d’accordo con Amodei senza prendere impegni per xAI, mentre Satya Nadella ha salutato su LinkedIn l’idea dei valutatori integrati, aggiungendo che il controllo non può restare in mano a poche entità.
