In questo articolo Indice dei contenuti 3 sezioni
Il CEO di Anthropic Dario Amodei ha messo nero su bianco una richiesta che suona quasi controintuitiva per chi guida una delle aziende più aggressive del settore: rallentare lo sviluppo dell’intelligenza artificiale, e farlo in fretta. Lo ha scritto in un post sul suo blog personale, riprendendo un concetto già avanzato dall’amministratore delegato di OpenAI Sam Altman e ripescando un appello simile che lui stesso aveva pubblicato all’inizio dell’anno. Il messaggio, stavolta, arriva con tre proposte concrete sul tavolo.
Due episodi recenti, spiega Amodei, lo avrebbero convinto della necessità di un approccio più prudente. Il primo è la violazione dei sistemi di Hugging Face da parte di agenti di OpenAI. Il secondo è la velocità con cui l’intelligenza artificiale sta migliorando nella capacità di contribuire allo sviluppo della generazione successiva di modelli. Proprio dopo quei fatti, OpenAI avrebbe chiesto alla California di rafforzare le tutele legali previste per i modelli più avanzati.
I rischi che preoccupano il numero uno di Anthropic
Nell’elenco dei pericoli concreti citati dal CEO di Anthropic compaiono la perdita di controllo sui sistemi, l’uso improprio della tecnologia per attacchi informatici e per il bioterrorismo, oltre a ripercussioni economiche pesanti. Amodei precisa anche che, pur rallentando, il ritmo dei progressi continuerà a sembrare comunque sostenuto, e che il punto sarà usare bene il tempo guadagnato. «Le misure che propongo non saranno facili, ma credo che lo dobbiamo all’umanità», ha scritto.
Il contesto in cui arrivano queste parole non è neutro. Pochi giorni prima del post, un ricercatore di Anthropic ha lasciato l’azienda sostenendo che le principali società del settore starebbero correndo verso sistemi capaci di migliorarsi da soli, con conseguenze potenzialmente catastrofiche entro la fine del decennio. Poco dopo, Anthropic ha fatto sapere di aver individuato e bloccato alcuni scienziati che usavano Claude per ricerche potenzialmente collegate allo sviluppo di armi biologiche.
Le tre strategie messe sul tavolo
La prima proposta riguarda l’introduzione di valutatori esterni indipendenti, provenienti da organizzazioni come il METR (Model Evaluation and Threat Research), con il compito di verificare che le aziende rispettino davvero gli impegni presi sulla sicurezza e di segnalare eventuali incidenti. Amodei paragona il meccanismo a quello dei regolatori bancari che lavorano fianco a fianco con i dipendenti degli istituti di credito. Come esempio di segnalazione mancata cita il caso in cui OpenAI è stata criticata per non aver riferito un incidente in cui alcuni suoi agenti avevano preso il controllo di un forum wiki tedesco. Anthropic si sarebbe impegnata unilateralmente su questa strada, fornendo ai valutatori badge aziendali, postazioni di lavoro e un accesso paragonabile a quello dei team interni di valutazione del rischio, salvo eccezioni previste da leggi o contratti. E chiedendo ai governi di imporre lo stesso obbligo alle altre aziende di frontiera.
La seconda strategia punta sul coordinamento tra le principali aziende di intelligenza artificiale attive nei Paesi democratici, chiamate a definire standard di sicurezza comuni e limiti condivisi al ritmo di sviluppo. Amodei ammette che una cosa del genere possa sembrare improbabile, anche considerati i rapporti tesi con Altman, e che le aziende temano implicazioni antitrust. Per questo chiede al governo statunitense di mediare, con un’esenzione mirata per le conversazioni relative alla sicurezza.
Prima della terza proposta, Amodei affronta l’obiezione classica: rallentare negli Stati Uniti significa regalare terreno alla Cina. Secondo lui il divieto di vendita di chip avanzati e di attrezzature per la produzione di semiconduttori alle aziende cinesi, insieme a un contrasto più efficace alla model distillation (la tecnica con cui un modello più piccolo viene addestrato a replicare il comportamento di uno più grande), potrebbe comunque ampliare il vantaggio statunitense nei prossimi tre o cinque anni. La terza strategia, definita “coordinamento globale”, prevede un dialogo tra Stati Uniti e alleati da un lato e governi autoritari dall’altro, Cina inclusa. Margini limitati, riconosce Amodei, ma possibili accordi su usi specifici e particolarmente pericolosi, come le armi biologiche.
Chi lo accusa di allarmismo e chi di distrazione
Le reazioni sono state contrastanti. Alcuni sostenitori dello sviluppo rapido accusano il manager di alimentare allarmismo. Diversi critici del settore, al contrario, sostengono che questi avvertimenti servano soprattutto a distogliere l’attenzione dai danni già provocati oggi dall’IA. Il giornalista Brian Merchant ha detto di non aver ancora trovato documentazione credibile e abbastanza dettagliata su come un sistema capace di migliorarsi da solo possa diventare una minaccia per l’umanità intera. E ha aggiunto che proposte come quella di Amodei rischiano di avvantaggiare proprio le aziende che dominano il mercato, Anthropic e OpenAI comprese, trasformandosi in una forma di cattura del regolatore.
Amodei ha respinto la lettura, dicendo di aver cercato una posizione equilibrata. Per lui lo scetticismo crescente verso l’intelligenza artificiale è il sintomo di una crisi di fiducia più ampia, che tocca le aziende tecnologiche ma anche le istituzioni pubbliche. Continua comunque a sostenere che questa tecnologia possa migliorare parecchio la qualità della vita, a patto che venga sviluppata nel modo giusto.
Fonte: TecnoAndroid
