In questo articolo Indice dei contenuti 2 sezioni
Il blocco imposto da Anthropic ad alcune richieste sospette arrivate ai suoi modelli riguarda uno scenario che fino a poco tempo fa sembrava confinato alla fantascienza, ovvero l’uso dell’intelligenza artificiale per mettere a punto armi biologiche. In un rapporto diffuso di recente, l’azienda guidata dai fratelli Amodei ha spiegato di aver interrotto diversi tentativi, portati avanti da alcuni scienziati, di sfruttare i propri sistemi per lavorare su materiale di questo tipo. Il documento è arrivato a poche ore dall’allarme lanciato da un ex dipendente della società, Jacob Coxon, che ha riacceso il dibattito sulla possibilità che l’AI diventi un pericolo concreto per la specie umana.
Il punto più scomodo di tutta la vicenda è che la linea tra ricerca utile e ricerca pericolosa resta sottilissima. Lo ha detto senza giri di parole Jacob Klein, responsabile dell’intelligence sulle minacce presso Anthropic, spiegando che «non si tratta di un personaggio dei fumetti che dice: “Ehi, voglio costruire un’arma biologica per uccidere tutti”». L’azienda stessa ammette di non essere riuscita a stabilire se lo scopo di quelle ricerche fosse legittimo, perché un’indagine biologica condotta seriamente può portare tanto a nuovi farmaci salvavita quanto a patogeni capaci di fare danni enormi.
Otto mesi di abusi, dalla propaganda ai droni armati
Il rapporto raccoglie una lunga lista di abusi registrati negli ultimi 8 mesi sui modelli della società, Claude compreso. Non è una novità assoluta. In passato Anthropic aveva già segnalato utilizzi riconducibili ad ambienti vicini al governo cinese e a quello iraniano, con finalità di sorveglianza verso comunità sensibili. Un altro caso riguarda media statali russi, che avrebbero usato Claude per confezionare propaganda mascherata da giornalismo indipendente, comprese notizie false sulle elezioni moldave.
Ci sono poi i tentativi legati al mondo militare in senso stretto, con richieste orientate allo sviluppo di software per progettare armi da fuoco, missili, droni armati e ordigni. Le segnalazioni arrivavano da Cina, Russia e Yemen. L’azienda non ha reso noto quali gruppi ci fossero dietro, anche se nel caso yemenita si ipotizza un collegamento con la milizia degli Houthi, sostenuta dall’Iran. Un precedente esiste già: uno studio di Cambridge pubblicato a luglio e firmato dalla dottoressa Antonia Juelich aveva documentato, attraverso interviste a 27 ex membri, l’uso dell’AI da parte delle due principali fazioni di Boko Haram per pianificare attacchi, risolvere problemi tecnici legati alle armi e progettare esplosivi.
Il caso del virus Chikungunya e l’istituto militare
Negli ultimi tempi l’attenzione si è concentrata quasi tutta sugli incidenti informatici, mentre il fronte biologico è rimasto in secondo piano. Il rapporto di Anthropic, che tutela la privacy dei ricercatori coinvolti, racconta che questi avrebbero aggirato i controlli pensati per impedire l’accesso ai sistemi dagli utenti collocati in aree geografiche soggette a restrizioni. Pur senza poter ricostruire la vera natura del lavoro, la società parla di soggetti che hanno provato a «offuscare lo scopo della loro ricerca per eludere le nostre misure di sicurezza».
Il caso considerato più inquietante risale allo scorso maggio, quando uno scienziato ha chiesto a Claude di scrivere una richiesta di finanziamento per condurre esperimenti sul virus Chikungunya, trasmesso dalle zanzare. L’obiettivo dichiarato era indurre mutazioni nel virus attraverso infezioni ripetute su animali vivi, rendendolo più dannoso. Anthropic ha inoltre rilevato che il lavoro sarebbe stato svolto presso un istituto di ricerca militare. «Non sappiamo se la ricerca fosse finalizzata alla creazione di armi», ha detto Klein, «ma il fatto che un’istituzione militare conduca ricerche volte a ottenere un aumento di funzionalità è motivo di preoccupazione».
Intanto su X si è aperto un dibattito parallelo, alimentato anche da Elon Musk, secondo cui le rivelazioni dei tre ricercatori della società potrebbero rientrare in operazioni di guerra psicologica, le cosiddette Psyops, pensate per orientare paure e comportamenti. Altri parlano più semplicemente di marketing, un modo per gonfiare il valore dell’azienda, anche se resta poco chiaro perché una società dovrebbe cercare un autogol del genere a ridosso di un ingresso in borsa. I modelli di qualche anno fa non riuscivano a gestire compiti così complessi, quelli attuali sì, e proprio per questa incertezza Anthropic ha scelto di fermare ricerche di dubbia provenienza.
