In questo articolo Indice dei contenuti 2 sezioni
Un rapporto firmato da Anthropic mette nero su bianco quello che molti addetti ai lavori temevano da tempo, ovvero che Claude è stato usato anche per tentare di sviluppare armi biologiche. Non si tratta di uno scenario ipotetico buttato lì per fare rumore, ma di casi concreti che l’azienda dice di aver individuato e bloccato negli ultimi mesi, con account chiusi e informazioni girate ad altri laboratori e al governo federale americano.
Il documento arriva in un momento già teso. Appena due giorni prima, Jacob Coxon, ingegnere della stessa Anthropic, si era dimesso accusando i colossi dell’intelligenza artificiale di giocare con la vita delle persone. Il punto della contestazione riguarda lo sviluppo di modelli capaci di migliorarsi da soli, una direzione che secondo Coxon rischia di portare a sistemi fuori controllo. E non è una voce isolata dentro l’azienda, visto che Evan Hubinger, responsabile della sicurezza della startup, ha stimato a oltre il 10% la probabilità che l’AI uccida tutti gli esseri umani nel giro di dieci anni.
Il caso del virus chikungunya
L’episodio più inquietante raccontato nel rapporto riguarda un ricercatore che aveva chiesto aiuto a Claude per scrivere una domanda di finanziamento scientifico sul chikungunya, il virus trasmesso dalle zanzare che provoca dolori articolari e muscolari prolungati. Fin qui, sulla carta, nulla di strano. Il problema stava nel contenuto del progetto, che puntava a rendere quel virus più pericoloso attraverso modifiche genetiche e inoculazioni ripetute su animali vivi.
Ricerche di questo tipo possono avere finalità legittime, per esempio nello sviluppo di vaccini. Ma qualcosa non tornava. La domanda era presentata come ricerca civile, mentre lo studio sarebbe stato condotto in realtà all’interno di un istituto militare. Anthropic non ha reso noti i nomi dei ricercatori coinvolti, né quelli delle istituzioni, né il paese di provenienza. Ha però bannato tutti gli account collegati a quell’attività e smantellato le reti che venivano usate per aggirare i blocchi geografici.
Va detto che l’azienda si era preparata a uno scenario del genere. Qualche mese fa aveva assunto uno specialista di armi chimiche inserendolo nel team che si occupa di politiche di sicurezza, con il compito preciso di testare come i modelli reagiscono davanti a richieste di questo livello di delicatezza.
Sorveglianza, propaganda e armi convenzionali
Le armi biologiche però sono solo una parte del quadro. Il rapporto elenca altri utilizzi impropri che chiamano in causa diversi paesi. Soggetti collegati a Cina e Iran avrebbero usato Claude per sorvegliare comunità dissidenti e gruppi della diaspora, un impiego che trasforma un assistente conversazionale in uno strumento di controllo politico.
Sul fronte della disinformazione, media di Stato russi si sono serviti del modello per produrre propaganda online camuffata da reportage indipendente. Il meccanismo è semplice quanto efficace, perché un testo generato in pochi secondi può assumere il tono e la struttura di un articolo giornalistico credibile senza esserlo affatto.
Poi c’è il capitolo delle armi convenzionali. L’intelligenza artificiale viene sfruttata per progettare software destinato ad armi da fuoco, missili, droni armati e bombe, con casi documentati in Cina, Russia e Yemen. Non si parla quindi solo di scenari futuri o di rischi teorici legati a modelli sempre più autonomi, ma di applicazioni già operative sul campo.
È in questo contesto che le richieste di rallentare la corsa allo sviluppo dell’AI si fanno più insistenti, arrivando anche dall’interno delle aziende che quella corsa la stanno guidando. Anthropic ha comunque scelto di condividere le proprie conclusioni con gli altri laboratori del settore, oltre che con le autorità americane, nel tentativo di costruire una risposta comune a un problema che nessuna singola azienda può gestire da sola.
