In questo articolo Indice dei contenuti 2 sezioni
Che una delle persone incaricate di garantire la sicurezza dell’intelligenza artificiale dentro Anthropic arrivi a dire pubblicamente che l’AI potrebbe uccidere tutti gli esseri umani entro il 2030 è il genere di frase che di solito si sente in un film, non in una discussione tra addetti ai lavori. Eppure è successo. Evan Hubinger, alla guida di uno dei team che si occupano proprio di sicurezza all’interno dell’azienda che ha creato Claude, ha messo nero su bianco la sua stima personale: più di una probabilità su dieci. Non un attivista, non un accademico con la vocazione apocalittica. Uno che quei sistemi li costruisce e li studia da dentro.
La cosa nasce da un addio. Jacob Coxon, ricercatore che aveva addestrato modelli sia per Anthropic sia per OpenAI, ha lasciato l’azienda e ha spiegato il perché senza troppi giri di parole, accusando il settore di correre verso la superintelligenza senza alcun controllo reale. Su X ha scritto che le società che sviluppano AI stanno “correndo dritte verso la superintelligenza che si auto migliora e giocando d’azzardo con le nostre vite”, e che lo fanno pur conoscendo benissimo i rischi.
Il nodo dell’AI che si perfeziona da sola
Il concetto che spaventa di più gli esperti ha un nome tecnico ma un significato piuttosto intuitivo: un sistema capace di migliorare se stesso in modo ricorsivo, cioè di diventare progressivamente più bravo senza che nessun essere umano intervenga a guidarlo. Non esiste ancora, almeno non in quella forma. Ma la direzione di marcia è quella e le aziende ci lavorano apertamente. Del resto buona parte del codice che oggi alimenta i modelli di intelligenza artificiale viene già scritta con l’aiuto di altri sistemi AI, il che rende il confine tra “strumento” e “sviluppatore” molto più sfumato di quanto piaccia ammettere.
Hubinger, di fronte alle accuse di Coxon, non ha provato a smorzare. Ha confermato, e con parole che pesano parecchio: “Crediamo davvero, sinceramente, che l’AI potrebbe uccidere tutti gli esseri umani”. Poi ha aggiunto il dettaglio che rende tutto più scomodo. Anthropic non ha ancora un piano per assicurarsi che i sistemi avanzati restino sicuri e allineati ai valori umani. E non è nemmeno chiaramente incamminata verso lo sviluppo di un piano del genere.
Perché nessuno si ferma per primo
Il ragionamento, tradotto in termini semplici, suona così: chi costruisce questi sistemi ammette di non sapere come renderli sicuri, però continua a costruirli. La spiegazione che dà Coxon riguarda la competizione. Nessuno vuole rallentare per primo, perché rallentare significa perdere terreno rispetto agli altri. È un classico dilemma del prigioniero, applicato però alla tecnologia più potente che sia mai stata messa in cantiere.
Non è la prima volta che qualcuno esce da OpenAI o da Anthropic citando la sicurezza come motivo. Anzi, Anthropic è nata proprio così, da un gruppo di ex dipendenti di OpenAI che avevano dubbi esattamente su questo. Nel frattempo anche OpenAI ha rivisto le proprie misure di protezione dopo episodi in cui i modelli hanno interagito con sistemi esterni in modi non previsti, e su uno di quegli incidenti la Commissione europea ha aperto un’indagine.
Quello che distingue questa vicenda dalle solite polemiche sull’AI è chi parla. Non critici esterni, non commentatori a caccia di titoli. Sono gli stessi ricercatori che ogni giorno mettono le mani su questi sistemi, che dichiarano apertamente di credere al rischio esistenziale e che, cosa decisamente più pesante, ammettono di non avere ancora una risposta. Un dettaglio da tenere presente la prossima volta che qualcuno liquida il tema come pura fantascienza.
