Scaricare l’ultimo assistente digitale disponibile è diventato quasi un riflesso automatico per milioni di persone, e i cybercriminali lo sanno benissimo. I dati presentati da Kaspersky durante la conferenza Horizons a Roma raccontano un fenomeno ormai fuori controllo: tra gennaio e l’inizio di maggio, i sistemi dell’azienda hanno intercettato a livello mondiale oltre 92.000 attacchi malware veicolati attraverso finti servizi di intelligenza artificiale. La fetta più grande, circa il 49%, sfrutta il nome di ChatGPT. Subito dopo arrivano Claude e Gemini, entrambi al 18%. Il meccanismo non è nemmeno particolarmente sofisticato: si tratta di classico social engineering applicato alla novità del momento. I criminali confezionano esche camuffate da software autonomi, e Kaspersky ha isolato oltre 15.000 campioni, inclusi cloni di strumenti emergenti come OpenClaw. Dietro queste facciate si nascondono trojan bancari, spyware, exploit e programmi progettati per rubare credenziali. Uno degli episodi più significativi riguarda il gruppo APT Silver Fox, che ha distribuito finti pacchetti di Claude AI per Windows, macOS e Linux. Chi pensava di installare un assistente virtuale, in realtà stava aprendo una porta silenziosa al proprio dispositivo.
Il rischio si amplifica quando questa corsa all’intelligenza artificiale entra nei processi aziendali. Ormai il 99% delle imprese prevede di integrare l’AI nella propria sicurezza, una direzione comprensibile visto che l’automazione aiuta ad analizzare enormi quantità di dati e a individuare minacce più rapidamente. Ma ogni nuova estensione, plugin o libreria open source può trasformarsi in una falla. Il caso più emblematico è quello di LiteLLM, una libreria Python usata per interfacciarsi con diversi modelli di AI, arrivata a circa 97 milioni di download al mese. Il codice dannoso integrato nello strumento era capace di sottrarre credenziali di database e file di wallet di criptovalute. Un singolo componente compromesso che diventa porta d’ingresso verso intere reti aziendali. Come ha sottolineato Dmitry Galov, a capo del team di ricerca globale di Kaspersky, l’ingresso degli agenti autonomi nelle reti aziendali cambia la natura stessa della fiducia. Non basta più proteggere il computer del singolo dipendente: bisogna capire come autorizzazioni, dati e decisioni si spostano da un sistema automatico all’altro, soprattutto quando gli strumenti AI possono eseguire operazioni, interrogare database o attivare procedure senza un intervento umano continuo.
Phishing potenziato dall’AI e il rischio dell’intelligenza artificiale cognitiva
Accanto al malware tradizionale crescono rischi specifici dei sistemi AI: fuga di dati, manipolazione dei dataset (data poisoning), prompt injection e risposte imprevedibili dei modelli. Preoccupa anche l’aumento delle cosiddette “malicious skills”, funzionalità dannose nascoste nei flussi di lavoro sotto forma di plugin o estensioni apparentemente legittime, ma progettate per esfiltrare informazioni o alterare i risultati. Andrea Fumagalli, advisor di settore, invita a partire da un presupposto prudente: considerare la violazione come uno scenario già possibile, non come un’eventualità remota. Serve una strategia capace di reggere minacce sempre più rapide, autonome e coordinate, soprattutto se in futuro l’AI dovesse combinarsi con i progressi del quantum computing.
C’è poi un livello più profondo che supera i virus tradizionali e tocca la cosiddetta intelligenza artificiale cognitiva. Qui il rischio è che l’algoritmo impari a influenzare comportamenti e decisioni attraverso suggerimenti personalizzati e il controllo delle informazioni su larga scala. Nel social engineering questo salto è già visibile. I Large Language Models stanno rendendo le email di phishing molto più persuasive, prive di quegli errori grammaticali che una volta facevano scattare l’allarme. Con strumenti più evoluti, gli attaccanti possono incrociare dati dei social network e profilazione psicologica per costruire truffe dinamiche, adattate al contesto e alle fragilità emotive della vittima. Il phishing rappresenta circa il 15% delle tecniche di attacco più diffuse, un caso su sette, e rimane il primo accesso per spionaggio e crimeware su larga scala.
Lo stesso meccanismo può essere sfruttato anche per influenzare l’opinione pubblica. L’AI può aiutare gruppi organizzati a creare messaggi diversi per persone diverse: a chi ha paura della crisi economica un certo tipo di contenuto, a chi diffida delle istituzioni un altro, a chi è già arrabbiato sui social un messaggio ancora più aggressivo. Il terreno si fa ancora più sensibile guardando alle Brain Computer Interface (BCI). Oggi queste tecnologie aiutano i pazienti a comunicare traducendo i segnali neurali in comandi per la domotica o la medicina. Domani, un eventuale attacco informatico a questi canali potrebbe letteralmente dirottare il collegamento tra intenzione ed esecuzione. Teresa Potenza, giornalista e formatrice in materia di AI responsabile, ha sintetizzato così il problema: “Il vero rischio dell’AI cognitiva è che modella le nostre menti, in modo silenzioso e diffuso”.
L’AI come strumento di difesa: riconoscimento facciale e supervisione umana
Non tutto gioca a favore degli attaccanti, però. L’intelligenza artificiale ha anche una straordinaria capacità di analisi geometrica e strutturale che supera i limiti dell’occhio umano, soprattutto nella biometria. Durante un esperimento, i ricercatori di Kaspersky hanno preso alcune foto e le hanno modificate usando l’AI generativa per invecchiare o ringiovanire i soggetti, fino a renderli irriconoscibili per un osservatore umano. I sistemi di riconoscimento facciale automatizzati non si sono lasciati ingannare: in tutti i test hanno ricollegato l’immagine modificata all’identità originale, leggendo i marcatori profondi del volto. Come spiegato dall’esperto di sicurezza Maher Yamout, questo dimostra la robustezza dei sistemi di autenticazione facciale, ma al tempo stesso avvisa che i deepfake e le identità sintetiche saranno sempre più difficili da gestire per gli esseri umani, costringendo a delegare la verifica della verità alle macchine stesse.