In questo articolo Indice dei contenuti 2 sezioni
Le email di phishing hanno trovato un nuovo bersaglio, e non si tratta più soltanto delle persone che le ricevono. Un gruppo di esperti di Barracuda Research, azienda che sviluppa soluzioni per la sicurezza informatica, ha scoperto che questi messaggi truffaldini riescono a ingannare anche un assistente di intelligenza artificiale. Si tratta proprio degli strumenti che, almeno sulla carta, dovrebbero smascherarli in automatico quando l’utente chiede di riassumerne il contenuto.
Il meccanismo è più sottile di quanto si possa immaginare. Secondo i ricercatori, l’email è costruita su più livelli. Il primo è quello visibile, composto da testo e immagini che il destinatario vede normalmente aprendo la posta. Il secondo resta invece nascosto e contiene istruzioni dannose, la cosiddetta prompt injection, pensate non per l’occhio umano ma per l’assistente AI che quel messaggio dovrà leggere ed elaborare. Due strati sovrapposti con due destinatari diversi, insomma.
Come funziona la trappola nascosta nelle email
All’apparenza nulla fa scattare l’allarme. Gli esperti spiegano che il messaggio sembra di routine e affidabile. Può arrivare da un dominio dall’aspetto legittimo, fare riferimento a un processo aziendale e magari includere pure un allegato. È il classico messaggio che in ufficio si apre senza pensarci troppo, uno dei tanti che riempiono la casella ogni giorno.
Il pericolo si concretizza nel momento in cui l’utente cade nella trappola. Se apre l’allegato usando la password indicata nel testo, l’attacco si trasforma in un furto di credenziali oppure nella diffusione di malware. Esiste però anche lo scenario opposto, quello in cui la persona non si accorge della comunicazione fraudolenta. Qui entra in gioco il secondo livello. L’aggressore può sfruttare l’istruzione nascosta per manipolare l’assistente virtuale, così che il riepilogo mostrato all’utente presenti l’email come legittima o addirittura urgente. Il risultato è una spinta ad aprirla e a cliccare sul link, con l’intelligenza artificiale che finisce per fare da complice involontaria del truffatore.
Il nodo resta il modello di intelligenza artificiale
Sul tema è intervenuto anche Apollo Raines, sviluppatore di ShipItClean, un servizio di revisione del codice basato sull’intelligenza artificiale. Secondo lui la vera difficoltà nasce dal fatto che il modello non riesce a distinguere tra il testo che dovrebbe semplicemente leggere e le istruzioni che dovrebbe invece seguire. È proprio questa confusione ad aprire la porta ai nuovi attacchi di phishing.
Raines riconosce che eliminare i contenuti nascosti prima che arrivino al modello è un’operazione utile, e ritiene che ogni fornitore dovrebbe adottarla. Avverte però che si tratta di una vera e propria corsa agli armamenti. “Ogni nuovo trucco di codifica rappresenta una nuova falla”, ha spiegato lo sviluppatore. Il senso è che i filtri, da soli, rischiano di rincorrere i criminali restando sempre un passo indietro.
C’è poi un aspetto che riguarda le abitudini delle persone. “Le persone hanno imparato a diffidare delle email. Non hanno imparato a diffidare dei loro assistenti basati sull’intelligenza artificiale”, ha osservato Raines. Per questo motivo, secondo lui, la protezione deve trovarsi negli strumenti stessi e in parte anche all’interno del modello. L’esperto indica infine una serie di elementi che considera tutti necessari, cioè wrapper, filtri, sandboxing e approvazione umana dei pagamenti.
Fonte: TecnoAndroid