In questo articolo Indice dei contenuti 2 sezioni
La discussione sulla sicurezza dell’AI ha smesso da tempo di essere un esercizio teorico, e le ultime settimane lo hanno reso evidente: due informatici dell’Università di Princeton, coautori del libro AI Snake Oil, sono intervenuti sulla domanda che sta agitando il settore, ovvero se l’intelligenza artificiale possa davvero portare all’estinzione dell’umanità entro la fine del decennio. La loro risposta non è un secco no, ma nemmeno un allarme apocalittico. È qualcosa di più articolato, e per questo interessante.
Tutto è partito da Jacob Coxon, ricercatore che ha lavorato sia per OpenAI sia per Anthropic. Ha lasciato il suo incarico dichiarando apertamente che entrambe le aziende sono consapevoli che i sistemi di intelligenza artificiale potrebbero ucciderci tutti entro il 2030. Il suo intervento ha superato i 156 milioni di visualizzazioni. Il punto centrale del messaggio: chi costruisce questa tecnologia crede sinceramente che possa portare alla catastrofe, non si tratta di una trovata pubblicitaria, e anzi molti dirigenti e ricercatori senior addolciscono le parole davanti alla stampa mentre in privato esprimono la stessa paura. Nessun’altra attività umana, sostiene, comporta un livello di pericolo comparabile.
Anthropic e la conferma che nessuno si aspettava
Ci si poteva attendere che le due aziende liquidassero la faccenda come lo sfogo di un esaltato. È successo il contrario. Evan Hubinger, uno dei responsabili della sicurezza di Anthropic, ha dato ragione a Coxon, spostando appena in avanti l’orizzonte temporale. Secondo la sua valutazione personale, la probabilità che l’AI uccida tutti gli esseri umani nel prossimo decennio supera il 10%. Ha aggiunto che Anthropic sta facendo del suo meglio, ma che al momento non esiste un piano per risolvere il problema dell’allineamento di una superintelligenza, e la traiettoria attuale non sembra portare in quella direzione.
Su come dovrebbe concretamente avvenire il disastro c’è molta meno chiarezza. L’attenzione si concentra soprattutto sulla capacità di condurre attacchi informatici distruttivi contro le infrastrutture critiche, centrali elettriche, impianti idrici, tutti quei sistemi su cui poggia la civiltà moderna senza che quasi nessuno ci pensi.
Il nodo vero è l’allineamento, cioè il lavoro necessario a far sì che gli obiettivi dei sistemi artificiali coincidano con quelli dell’umanità. C’è chi sostiene che basterà insistere su questa strada per azzerare il rischio. Altri ribattono che un sistema abbastanza capace potrebbe semplicemente fingere di essere allineato per superare i controlli di sicurezza, coltivando nel frattempo finalità proprie e incompatibili con le nostre.
Le quattro barriere proposte da Kapoor e Narayanan
Sayash Kapoor e Arvind Narayanan si sono costruiti una reputazione smontando quella che definiscono la miscela di hype, disinformazione e fraintendimenti che circonda il settore. Non hanno risposto direttamente alla stima del 10%, ma hanno firmato un saggio corposo in cui sostengono che i rischi dell’AI si possono affrontare con quello che chiamano un approccio stratificato.
La loro critica è doppia. Da un lato la visione pessimista di parte della comunità che si occupa di safety, dall’altro l’atteggiamento sbrigativo di certi ambienti della cybersicurezza, convinti che sia tutto ordinaria amministrazione. Serve una via di mezzo più misurata, dicono. E soprattutto serve capire che l’allineamento da solo non basta: va affiancato da tre livelli ulteriori.
Il primo è il controllo, quindi sandboxing, supervisione umana, monitoraggio in tempo reale. Il secondo è la difesa a valle, cioè organizzazioni che usano l’AI per difendersi dagli attacchi condotti con l’AI. Il terzo è la resilienza, ovvero piani di emergenza per rimettere in piedi i sistemi dopo un attacco andato a segno.
I due chiudono il loro intervento con una nota di ottimismo. Se si agisce con l’urgenza adeguata, scrivono, è possibile pretendere standard più alti dalle aziende che sviluppano questi modelli, ridurre i rischi legati alla perdita di controllo e persino riportare l’equilibrio tra attaccanti e difensori nella cybersicurezza a favore di questi ultimi.
