In questo articolo Indice dei contenuti 2 sezioni
Un report molto corposo pubblicato da Anthropic mette nero su bianco tutti gli utilizzi illeciti di Claude individuati e bloccati tra dicembre 2025 e agosto 2026, con una classificazione in sette categorie che vanno dagli attacchi informatici allo sviluppo di armi biologiche. L’azienda californiana ha analizzato caso per caso gli abusi che hanno coinvolto i modelli Haiku, Sonnet e Opus, spiegando che le versioni più recenti dispongono di protezioni più solide proprio per rendere più difficile questo genere di operazioni. Il quadro che ne esce è dettagliato e, per certi versi, poco rassicurante.
La prima voce della lista è anche la più prevedibile. Gli attacchi informatici restano l’uso illecito più frequente dei modelli di Anthropic, e il motivo è abbastanza intuitivo: gli strumenti di intelligenza artificiale sono ormai alla portata di chiunque, quindi non servono più competenze tecniche particolarmente avanzate per mettere in piedi una campagna offensiva. A complicare ulteriormente le cose ci sono gli agenti AI, capaci di eseguire lunghe sequenze di azioni in autonomia, senza che un essere umano debba intervenire a ogni passaggio.
Spionaggio, sorveglianza e manipolazione dell’informazione
Tra i casi descritti nel documento spicca quello del gruppo russo Midnight Blizzard, attivo a scopo di spionaggio. I cybercriminali hanno sfruttato Claude praticamente in ogni fase dell’operazione: raccolta delle informazioni preliminari, accesso iniziale ai sistemi, esfiltrazione dei dati e mantenimento della presenza nella rete violata. Gli agenti AI venivano usati anche per verificare se il malware riuscisse ad aggirare le difese dei bersagli e, in caso di fallimento, per modificarlo automaticamente così da eludere i sistemi di rilevamento.
Capitolo sorveglianza: qui Anthropic ha individuato diverse attività riconducibili a gruppi collegati a Cina e Iran. In questi casi i modelli sono serviti a sviluppare strumenti di spionaggio veri e propri e a identificare i bersagli analizzando i contenuti pubblicati sui social media, una scrematura che manualmente richiederebbe tempi molto più lunghi.
Molto diffuse anche le cosiddette operazioni di influenza, cioè la manipolazione delle informazioni per ingannare l’opinione pubblica. Russia, Turchia e Iran compaiono tra i paesi coinvolti, con una concentrazione particolare attorno alle tornate elettorali. Claude è stato impiegato per costruire siti web e account social fasulli, poi utilizzati per diffondere notizie false su larga scala.
Missili, virus e app di dating fasulle
Sul fronte delle armi convenzionali il report elenca sei casi distinti. I modelli sono stati usati per scrivere software di guida per missili, per il controllo remoto di droni e per attività di guerra elettronica, quindi rilevazione e soppressione delle comunicazioni radio. In un altro episodio Claude è servito a raccogliere informazioni su un programma di armamenti straniero e sulla relativa catena di approvvigionamento.
Cinque invece i casi legati alle armi biologiche. Uno riguarda una ricerca sul virus chikungunya che a prima vista sembrava del tutto legittima, orientata allo sviluppo di vaccini e terapie più efficaci. Approfondendo, però, Anthropic ha scoperto che il finanziamento arrivava da un istituto militare. Altri utenti hanno provato a sfruttare i modelli per creare varianti dell’influenza aviaria adattate ai mammiferi, oltre a orthopoxvirus, veleni e tossine.
Un solo caso, invece, nella categoria truffe, ma decisamente articolato. Un gruppo di cybercriminali cinesi ha usato Claude per scrivere il codice di oltre 20 app di dating e per generare una persona artificiale che intratteneva conversazioni con le vittime. L’obiettivo finale era convincerle a effettuare pagamenti in-app.
Chiude l’elenco la distillazione illecita, ovvero l’utilizzo delle risposte di un modello per addestrarne un altro. Il meccanismo passa dalla creazione di reti di account fasulli, con chiavi API, credenziali di accesso e carte di credito rubate. Anthropic ha individuato distillazioni non autorizzate riconducibili ad aziende cinesi come Alibaba, Moonshot, Xiaomi, Z.ai, DeepSeek, Sensetime e MiniMax.
Fonte: TecnoAndroid
