In questo articolo Indice dei contenuti 2 sezioni
Un agente IA è riuscito a violare i dati personali di un’azienda, e la cosa non è più un’ipotesi da convegno sulla sicurezza informatica. È successo in Spagna, dove l’Autorità garante per la protezione dei dati, l’equivalente del nostro Garante per la privacy, ha confermato il primo caso del genere sul territorio nazionale. Il nome dell’organizzazione colpita resta riservato, ma l’allarme è partito lo stesso, perché quell’episodio è la prima prova concreta che i cyber criminali stanno usando l’intelligenza artificiale generativa per andare a bersaglio su sistemi connessi alla rete.
Secondo l’AEPD, l’agenzia spagnola, si è trattato di un attacco deliberato, costruito attorno a un modello linguistico di grandi dimensioni impiegato per individuare le falle del sistema e poi entrare, modificare dati personali e consultare fatture. Il dettaglio che pesa di più è un altro: l’agente ha coperto in autonomia più fasi consecutive dell’operazione, dalla scansione delle vulnerabilità fino alla manipolazione dei dati. Nessuna mano umana a guidare ogni passaggio.
Perché il caso spagnolo preoccupa gli esperti di cybersecurity
“I sistemi di intelligenza artificiale generativa fanno bene molte cose. Una di queste è identificare vulnerabilità nel software e scrivere i cosiddetti exploit, una sequenza di comandi progettata per sfruttare un bug o una vulnerabilità di sicurezza, quindi il modo per utilizzarle”, spiega Stefano Zanero, docente di cybersecurity al Politecnico di Milano. Il punto, aggiunge, è che questo tipo di lavoro richiedeva tradizionalmente tempo e competenze sofisticate, e proprio per questo certi obiettivi restavano fuori portata per la maggior parte degli aggressori. Adesso l’IA ha abbassato l’asticella.
Finora le difese informatiche erano considerate ragionevolmente solide rispetto alle capacità medie degli hacker. Con l’ingresso degli agenti automatici quell’equilibrio salta, e secondo Zanero bisogna occuparsene subito, ancora “prima di ragionare su quando questi sistemi siano in grado di sterminare l’umanità come Skynet in Terminator”. Meglio guardarli da vicino, capire che tipo di danni possono provocare, anche piccoli e contenibili, e lavorarci sopra.
L’incidente arriva in una fase in cui le autorità di regolamentazione e quelle per la sicurezza informatica, sia negli Stati Uniti sia in Europa, hanno deciso di alzare il livello di controllo sui rischi legati a sistemi di IA sempre più capaci. E lo fanno mentre le aziende adottano la stessa tecnologia a ritmo serrato, spesso senza fermarsi troppo a valutare cosa comporti.
Il nodo del disallineamento e il ruolo delle aziende tech
Dietro attacchi di questo tipo, chiarisce il docente, “c’è sempre una causa scatenante, la richiesta umana di trovare la vulnerabilità di uno specifico sito”. Ma esiste anche un’altra possibilità, che in gergo tecnico si chiama dealignment, un disallineamento tra quello che viene chiesto nel prompt e quello che l’agente decide di fare per arrivarci. “Quando chiediamo di trovare una certa informazione non conosciamo il percorso che eseguirà il chatbot e l’agente potrebbe trovarla anche seguendo un percorso che lo porta ad accedere a fonti riservate, bucando, solo per fare un esempio, il database di abbonati a un certo servizio”, spiega Zanero. Azioni dannose di piccola entità, immediate, che vengono sottovalutate proprio perché sembrano marginali.
L’AEPD ha sottolineato la rilevanza del caso pur riconoscendo che un singolo episodio non basta a definire una tendenza. Quello che suggerisce, però, è che gli attacchi assistiti dall’IA stiano uscendo dalla fase teorica per iniziare a incidere sul trattamento dei dati personali nel mondo reale. Non minacce nuove, quindi, ma minacce più rapide, che accorciano il tempo a disposizione degli esseri umani per accorgersene e reagire.
Il discorso finisce inevitabilmente per toccare anche le dichiarazioni allarmistiche diffuse nei mesi scorsi da Anthropic e da altre società del settore. “Questi agenti AI restano pericolosamente privi di una comprensione di quello che stanno facendo e questo fa sì che possano provocare effetti indesiderati che le varie aziende coinvolte produttrici stanno tentando di contenere”, osserva Zanero. Ed è nell’interesse delle stesse tech company dimostrare di saper fornire modelli capaci di rispondere alle domande degli utenti e, allo stesso tempo, di fare soltanto quello che dovrebbero fare, senza bucare reti e senza commettere crimini informatici.
Fonte: TecnoAndroid
