In questo articolo Indice dei contenuti 3 sezioni
Le IA non sono più un giocattolo da laboratorio per chi vive di cyber crimine, sono diventate strumento di lavoro quotidiano, e i report usciti dalle divisioni di sicurezza di Google e Anthropic lo raccontano con una chiarezza che fa una certa impressione. Gruppi legati a governi, bande criminali indipendenti, ragazzi che si divertono a bucare sistemi: tutti stanno infilando automazione e modelli linguistici dentro le proprie catene di attacco. John Hultquist, analista capo del Google Threat Intelligence Group, la mette giù semplice: questi strumenti ormai si trovano ovunque, e riguardano qualsiasi tipo di avversario digitale.
Il punto interessante è che non parliamo di scenari futuri, ma di operazioni già avvenute, già tracciate, in diversi casi già bloccate. E il quadro che ne esce è quello di un mestiere criminale che si sta industrializzando, con il supporto degli stessi modelli che milioni di persone usano per scrivere email o sistemare un foglio di calcolo.
Dalla Cina all’Iran, attacchi che si scrivono quasi da soli
Gli analisti di Google hanno documentato come vari collettivi filo statali abbiano incorporato i modelli linguistici nei propri processi operativi. Un gruppo riconducibile alla Cina ha messo in piedi un sistema automatizzato per cercare falle nei computer delle vittime e usarle come porta d’ingresso. Al centro dell’operazione c’era CC Switch, una specie di centrale di comando che permetteva di inviare la stessa richiesta a modelli diversi, da Claude di Anthropic a Gemini di Google fino a Codex di OpenAI, scegliendo ogni volta quello più adatto al compito.
Le IA servivano a scrivere pezzi di codice utili all’attacco e a confezionare email di phishing cucite addosso al bersaglio. Una sartoria della truffa, praticamente, da cui escono tentativi di frode molto più credibili della media. Così il gruppo ha automatizzato buona parte del lavoro sporco: individuare obiettivi, preparare l’assalto, provare a entrare nei sistemi di enti governativi.
Sempre in Cina, il gruppo Basin Castle ha usato i modelli per profilare bersagli di alto valore politico e costruire software malevoli dedicati. Il collettivo iraniano catalogato come Calanque Ion ha invece impiegato Gemini per raccogliere informazioni riservate, trovare indirizzi email aziendali, tradurre testi in lingue locali e tentare di ricostruire la struttura interna di software protetti. Google ha segnalato anche campagne pensate per copiare il funzionamento dei propri modelli, le famose tecniche di distillazione. In alcuni casi sono state inviate oltre cento milioni di richieste, usando migliaia di account falsi e reti di server intermediari per aggirare i controlli, con l’obiettivo di studiare le risposte e ricavarne capacità e metodi di ragionamento.
I numeri che Anthropic ha messo nero su bianco
Anthropic ha identificato e fermato abusi dei suoi sistemi Claude Haiku, Sonnet e Opus in sette aree di pericolo: operazioni cibernetiche offensive, disinformazione, sorveglianza di massa, armi convenzionali, rischi biologici, truffe economiche e furto industriale di algoritmi.
Tra i più aggressivi c’è GTG-10005, collegato al collettivo russo Midnight Blizzard. Avrebbe colpito oltre venti organizzazioni governative e diplomatiche, arrivando agli account WhatsApp di due ex alti funzionari ucraini e portando via più di mezzo milione di documenti da un ente pubblico. GTG-50014, associato a ShinyHunters, ha passato al setaccio 1,8 milioni di applicazioni Android a caccia di chiavi e credenziali nascoste nel codice: in 34 ore gli agenti automatici hanno sottratto oltre un terabyte di dati e più di 2.100 credenziali legate ai sistemi Microsoft per la gestione degli accessi.
Poi ci sono i casi più piccoli ma non meno indicativi. GTG-10007, formato da due studenti di Changsha, avrebbe scovato una dozzina di falle sconosciute nell’arco di un mese. GTG-50020 ha rubato 26 gigabyte di dati chiedendo riscatti fino a circa 2,3 milioni di euro. GTG-50028 ha sfruttato una vulnerabilità di WordPress per violare quattordici organizzazioni politiche e pubblicare dati personali sottratti.
Huang vede un mercato, non solo un problema
Jensen Huang, fondatore e amministratore delegato di Nvidia, sposta il discorso su un altro piano: la cybersecurity può diventare uno dei prossimi grandi mercati delle IA. Gli stessi modelli capaci di scrivere codice, sostiene, possono cercare falle nei programmi, simulare attacchi e suggerire correzioni. Niente di nuovissimo per chi lavora nel settore, dove si sa da tempo che l’IA vale tanto per chi attacca quanto per chi difende.
C’è però anche un evidente interesse industriale. I sistemi di sicurezza lavorano in continuo e divorano potenza di calcolo, cioè esattamente il terreno su cui Nvidia costruisce i propri conti. Non a caso l’azienda sta già collaborando con CrowdStrike, specializzata nella protezione di computer, reti e infrastrutture aziendali: l’idea è avere modelli che cercano vulnerabilità e altri modelli che provano a chiuderle, in un confronto permanente tra attacco e difesa automatizzati.
Fonte: TecnoAndroid
