In questo articolo Indice dei contenuti 2 sezioni
Quando Anthropic e OpenAI chiedono quasi all’unisono di rallentare la corsa all’intelligenza artificiale, vale la pena chiedersi cosa ci sia davvero sotto, perché due laboratori che raramente concordano su qualcosa si sono trovati allineati nel giro di poche ore. Dario Amodei ha pubblicato nel fine settimana una lettera aperta dai toni marcatamente altruistici, impegnando il proprio laboratorio a valutazioni esterne affidate con ogni probabilità a personale del METR, organizzazione non profit legata ad Anthropic da un andirivieni piuttosto fitto di ricercatori sulla sicurezza. Elon Musk e Microsoft hanno annuito quasi subito.
La sequenza degli eventi aiuta a inquadrare la faccenda. Subito dopo l’annuncio di OpenAI su una soluzione al problema di Navier Stokes, uno dei Millennium Prize, Jacob Coxon ha lasciato Anthropic con un post dai toni apocalittici sui pericoli dell’AGI, vantandosi poi di averne coordinato la diffusione virale. Evan Hubinger, responsabile dell’allineamento dei modelli in Anthropic, ha stimato in oltre il 10 percento la probabilità che l’intelligenza artificiale sterminichi l’umanità nel prossimo decennio. Poi la lettera di Amodei. Il tutto mentre Andreas Steno Larsen faceva notare che praticamente nessuno degli allarmi datati di Amodei si è finora concretizzato.
Anthropic e OpenAI: la scorciatoia che nessuno vuole prendere
Esiste un modo semplice per disinnescare gran parte dei rischi legati allo sviluppo incontrollato dei modelli, ed è aprire le tracce dei sistemi più avanzati. Per chi non mastica il gergo, le tracce, chiamate anche traiettorie o trascrizioni, sono i registri dettagliati passo passo dell’esecuzione di un agente durante una sessione o un incidente. Contengono la sequenza dei ragionamenti del modello, le chiamate agli strumenti con i relativi argomenti, le osservazioni dall’ambiente, le decisioni intermedie e i risultati finali.
Renderle pubbliche permetterebbe all’ecosistema open source di ispezionare i punti di rottura precisi, dai ragionamenti distorti che minimizzano le prove di operare sulla rete reale fino alla spericolatezza indotta dall’ossessione per il compito. Gruppi indipendenti potrebbero analizzare gli stessi dati in parallelo, trovare schemi ricorrenti e proporre correzioni molto più in fretta di quanto riesca a fare la revisione interna di una singola azienda. Non solo. Quelle traiettorie fallimentari diventerebbero ambienti sintetici per il reinforcement learning, dataset di fine tuning mirati o benchmark, alzando l’asticella della sicurezza per tutti senza dover riscoprire ogni volta gli stessi casi limite.
L’obiezione prevedibile riguarda la Cina. Peccato che anche nello scenario immaginato da Amodei Pechino andrebbe trattata da pari, con concessioni sostanziose per convincere i suoi laboratori a sincronizzare i propri tempi. E il Global Times ha già bollato la proposta come un manuale da Guerra Fredda pensato per colpire la Cina.
Il vero nodo è l’energia, e i numeri parlano chiaro
Qualcuno legge la mossa come una risposta alla scarsità di componenti, in particolare la HBM. Il CEO di Iren, Daniel Roberts, lo ha lasciato intendere: tre aziende la producono, tutte e tre hanno esaurito le scorte per l’anno, e una nuova fabbrica di memorie richiede anni. TrendForce vede le spedizioni crescere del 50 60 percento il prossimo anno, NVIDIA prevede ricavi in aumento di circa il 70 percento definendo però quella stima limitata dall’offerta, con le previsioni dei clienti più vicine al 100 percento.
Il punto resta un altro. Il pipeline dei data center nordamericani vale oggi 404 GW e smaltirlo richiederebbe 13,1 anni di cantieri continui ai ritmi attuali. Ad agosto oltre 6,5 GW di capacità pianificata risultavano già bloccati contro appena 4 GW entrati in costruzione. Moody’s calcola che serviranno circa 100 miliardi di euro per aggiungere 45 GW entro il 2030, con i data center statunitensi destinati a consumare più gas della maggior parte dei Paesi entro il 2035. SemiAnalysis avverte che il margine della rete americana si esaurirà tra 2027 e 2028 e che 140 GW cumulati di progetti identificati non hanno ancora contratti di fornitura.
Nel frattempo Anthropic si è impegnata a portare la propria capacità di calcolo oltre gli 11,5 GW, il che ai tassi correnti significa almeno 105 110 miliardi di euro di spesa annua.
