Un gruppo di ricercatori dell’Università di Toronto, guidati da Nicolas Papernot, ha messo a punto qualcosa che somiglia a un brutto sogno per chi si occupa di sicurezza informatica: un AI worm, ovvero un malware capace di sfruttare l’intelligenza artificiale per infiltrarsi in qualsiasi tipo di dispositivo e diffondersi attraverso intere reti. Il prototipo è talmente delicato che il codice non è mai stato reso pubblico, e prima dell’annuncio il team si è confrontato con diverse istituzioni. Un segnale di quanto la faccenda sia presa sul serio.
Che cosa significa davvero la parola worm
Nel gergo della cybersecurity, il worm è una di quelle parole che mettono i brividi. Si tratta di un software malevolo capace di replicarsi e diffondersi da solo, senza bisogno che qualcuno apra un file o clicchi su un link sospetto. La maggior parte dei malware, infatti, ha bisogno di un gesto umano per attivarsi. Il worm no: sfrutta una falla in un programma o nel sistema operativo e si propaga in automatico.
Sono malware piuttosto rari, ma quando colpiscono lasciano il segno. Basta ricordare Blaster, che nel 2003 si stima abbia infettato tra gli 8 e i 16 milioni di computer con Windows XP e Windows 2000. L’anno dopo toccò a Sasser, circa 2 milioni di pc. E poi c’è il caso più recente, Wannacry, che nel maggio del 2017 ha installato un ransomware su più di 300.000 computer nel giro di poche ore. Normalmente l’unico modo per fermarli è installare l’aggiornamento che corregge la vulnerabilità sfruttata, oppure adottare impostazioni che ne blocchino la diffusione. Con l’AI, però, lo scenario cambia parecchio.
Un quasi worm che ragiona da solo
Da un punto di vista tecnico, quello costruito a Toronto è diverso da un worm classico. E forse più insidioso. Non punta su una singola falla, ma adatta le sue strategie a seconda del dispositivo che si trova davanti, appoggiandosi alle capacità dei normali Large Language Model disponibili gratuitamente. In pratica hanno creato un agente AI che si comporta come un criminale informatico preparatissimo: analizza un dispositivo, valuta le vulnerabilità sfruttabili e sceglie quella più conveniente.
Possono essere falle già note ma non corrette, errori di configurazione oppure punti deboli banali come password troppo fragili. La cosa peggiore è che il prototipo usa le informazioni raccolte da un dispositivo per attaccarne altri. Una password trovata su un pc, per dire, può servire a infettare una telecamera di sorveglianza o una stampante collegata alla stessa rete.
C’è poi un dettaglio che rende il tutto ancora più sottile. L’AI worm sfrutta la potenza di calcolo degli stessi dispositivi che infetta per pianificare le mosse successive. Il computer compromesso non è un semplice zombie che ripete uno schema, ma partecipa attivamente all’elaborazione della strategia. Si comporta come un parassita che usa l’ospite per riprodursi. Perché funzioni serve però una Gpu, il processore grafico, capace di far girare il modello linguistico che guida l’attacco. E qui sta un altro problema, soprattutto per il rilevamento: di solito gli attacchi vengono scoperti grazie al traffico tra malware e server esterno, mentre in questo caso il criminale potrebbe limitarsi a sganciare la bomba e tagliare le comunicazioni fino a lavoro finito.
Un esperimento, per ora
Il prototipo del team di Papernot è stato testato in un ambiente virtuale chiuso e isolato. I ricercatori precisano di non aver aggiunto tecniche di offuscamento che permetterebbero all’agente di nascondersi. E sottolineano che la velocità di diffusione è nettamente inferiore a quella di un worm tradizionale: ci ha messo circa 5 giorni per arrivare sulla metà dei dispositivi della rete simulata. Tempi lunghi, che oggi renderebbero facile individuarlo e fermarlo. Il punto vero, però, non è questo. Secondo Papernot, il prototipo dimostra che una nuova generazione di malware adattivi e completamente autonomi è una possibilità concreta. Se qualcuno dovesse affinare la tecnica e renderne più difficile il rilevamento, lo scenario potrebbe cambiare in fretta.