In questo articolo Indice dei contenuti 2 sezioni
Anthropic ha finito di addestrare un modello che nessuno, fuori dai suoi uffici, potrà provare. Si chiama semplicemente Model 2, è più potente di Mythos 5 e stando a quanto dichiara la stessa azienda porta un miglioramento apprezzabile in buona parte dei compiti che vengono svolti internamente. Non è il salto clamoroso visto ai tempi di Mythos Preview, ma tanto basta perché i responsabili abbiano deciso che sia troppo potente per finire nelle mani del pubblico.
La cosa curiosa è che Model 2 sta già lavorando, eccome. Anthropic spiega di usarlo in modo intensivo insieme a Mythos 5 nell’ingegneria del software, nella programmazione, nella generazione di dati e nella gestione di agenti di intelligenza artificiale persistenti dentro i propri flussi di lavoro aziendali. Nel rapporto pubblicato dall’azienda emerge un dettaglio che dice più di tante analisi, ovvero che Claude scrive ormai la maggior parte del codice che finisce nei repository di produzione di Anthropic. Un modello chiuso al mondo esterno che però contribuisce a costruire quello che il mondo esterno userà domani.
Rischio basso, ma con più dubbi di prima
La valutazione complessiva di Anthropic continua a collocare il rischio che il modello provochi danni gravi su un livello basso. Durante la fase di approvazione per l’uso interno non sono emerse prove che Model 2 abbia un allineamento peggiore rispetto a Mythos 5. Eppure la stima generale sul rischio di disallineamento in situazioni ad alto impatto è passata da molto basso a basso, e il motivo non riguarda tanto il modello in sé quanto l’incertezza generata dagli ultimi casi di cybersicurezza che hanno coinvolto sia i modelli dell’azienda sia quelli di OpenAI.
C’è poi un problema più scomodo, quasi metodologico. Anthropic ammette di avere meno fiducia di prima nella capacità di trarre conclusioni solide sui rischi legati ai nuovi modelli. Diverse valutazioni specifiche risultano ormai sature, nel senso che i modelli sono migliorati al punto da rendere quei benchmark poco utili. Con Model 2 non è stata nemmeno eseguita l’intera batteria di test, per una ragione piuttosto lineare, cioè che non c’è alcuna intenzione di renderlo pubblico.
Modelli che aiutano a costruire altri modelli
Nel documento compare anche un passaggio che è interessante e inquietante nella stessa misura. I modelli dell’azienda stanno accelerando la velocità con cui procedono ricerca e sviluppo di prodotto, e non solo nel software. Vengono citate robotica, biotecnologie, energia e semiconduttori. Nessuno sostiene che Mythos 5 o Model 2 possano sostituire i ricercatori in carne e ossa, però più lavoro di ricerca finisce nelle mani di questi sistemi, più diventa naturale immaginare che prima o poi un modello aiuterà ad addestrare e migliorare il successivo.
Non è un caso isolato. Anche OpenAI sta rinviando il suo modello di prossima generazione, Astra, perché non è riuscita a escludere che sia troppo capace nell’ambito della cybersicurezza. La tendenza salta all’occhio, con le aziende di intelligenza artificiale entrate in una fase in cui finiscono di addestrare un modello e poi devono decidere se pubblicarlo oppure no. Fino a poco tempo fa la sequenza era automatica, si sviluppava e si lanciava. Adesso in mezzo si è infilata una fase di valutazione, capire fin dove il modello può spingersi prima che chiunque possa metterci le mani. Anthropic non ha frenato lo sviluppo e continua ad addestrare sistemi sempre più avanzati, ma la fotografia delle ultime settimane racconta una situazione paradossale. Anche quando il rischio di distribuire un modello viene giudicato basso, come in questo caso, le aziende non danno più per scontato che convenga lanciarlo, per il timore di rompere qualcosa. Da qui nasce una necessità nuova, cioè sapere con ragionevole certezza che un modello non supererà il limite prima ancora di renderlo disponibile.
