In questo articolo Indice dei contenuti 2 sezioni
Secondo Dario Amodei, gli agenti AI potrebbero arrivare a controllare l’intera Internet nel giro di sei o dodici mesi, se la corsa allo sviluppo dei modelli non rallenterà. Una previsione pesante, arrivata pochi giorni dopo l’allarme lanciato da un ex dipendente della stessa Anthropic, e accompagnata da una proposta concreta in tre punti che ha già raccolto il sostegno di Sam Altman, numero uno di OpenAI, e di Elon Musk, fondatore e amministratore delegato di SpaceX.
Il co-fondatore e CEO di Anthropic non parte da una posizione catastrofista. Anzi, riconosce senza troppi giri di parole che l’intelligenza artificiale può migliorare la vita delle persone, accelerando per esempio la ricerca di cure per le malattie. Il punto è un altro. Accanto ai benefici ci sono rischi che secondo Amodei stanno crescendo più in fretta delle contromisure, dalla perdita di controllo agli usi illeciti. Vale la pena ricordare che un ex dipendente di Anthropic si era spinto molto oltre, sostenendo che l’AI ucciderà tutti gli esseri umani entro il 2030.
Il nodo dell’auto miglioramento ricorsivo
Tra i pericoli citati, quello che preoccupa di più Amodei è il cosiddetto auto miglioramento ricorsivo. In sostanza la capacità di un sistema di riscrivere il proprio codice e generare versioni sempre più potenti di se stesso, senza che nessuno debba premere un pulsante. Un meccanismo che, una volta avviato, diventa difficile da fermare o anche solo da osservare dall’esterno.
Il CEO di Anthropic ha portato un esempio già accaduto, l’attacco contro i server di Hugging Face. In quell’occasione uno sciame di agenti si è comportato, sono parole sue, come un collettivo fanaticamente devoto, colpendo obiettivi che con il compito assegnato non avevano nulla a che fare. È il classico problema di allineamento, cioè quando un agente esegue azioni diverse da quelle autorizzate. Su piccola scala è un fastidio. Su larga scala, secondo Amodei, può produrre danni catastrofici.
Da qui la stima temporale. Con l’attuale velocità di miglioramento delle capacità dei modelli, gli agenti potrebbero impadronirsi di Internet attraverso una botnet persistente entro sei o dodici mesi, con danni economici nell’ordine di centinaia di miliardi di euro.
Il piano in tre passi e il muro della Cina
Il primo passo del piano di Amodei è anche il più semplice da mettere in pratica. Ogni azienda che sviluppa intelligenza artificiale dovrebbe aprire i propri sistemi a una valutazione esterna, affidata a organizzazioni indipendenti incaricate di verificare il rispetto delle misure di sicurezza. Anthropic lo ha già fatto, scegliendo METR, acronimo di Model Evaluation & Threat Research. Sam Altman ha fatto sapere che OpenAI seguirà la stessa strada, argomento che il CEO aveva già discusso internamente con i dipendenti. Anche Elon Musk si è detto d’accordo.
Il secondo passo si complica. Le aziende dei paesi democratici dovrebbero mettersi allo stesso tavolo e definire uno standard di sicurezza comune. Difficile ma non impossibile, sostiene Amodei, con un dettaglio non banale, servirebbe l’intervento dei governi, perché un’intesa di questo tipo rischierebbe di violare le leggi antitrust.
Il terzo passo, invece, ha tutta l’aria di essere fuori portata. L’idea è arrivare a un accordo globale che coinvolga anche i governi autoritari, Cina in testa, per rallentare insieme la corsa allo sviluppo. Considerate le numerose restrizioni imposte da Washington, è improbabile che il Partito Comunista Cinese accetti di sedersi a trattare.
Resta il fatto che la proposta ha ottenuto in tempi rapidi il via libera pubblico di due tra i nomi più rilevanti del settore, un segnale poco comune in un mercato dove la competizione tra laboratori è tutto fuorché tenera.
Fonte: TecnoAndroid
