In questo articolo Indice dei contenuti 2 sezioni
Si chiama Dark Sourcery ed è una campagna che mostra con chiarezza quanto la manipolazione delle informazioni online possa diventare un problema serio anche per chi usa i chatbot basati su intelligenza artificiale. Secondo la società Vigilance Security, gli aggressori pubblicano contenuti costruiti ad arte per sembrare affidabili e guadagnare visibilità nei sistemi che recuperano informazioni dal Web. Alla fine l’utente può ritrovarsi davanti a una risposta con un numero di telefono, un indirizzo email o una pagina di accesso contraffatta. La ricerca parla di almeno 374 aziende coinvolte.
Il pericolo si colloca in una fase che precede il classico phishing. Invece di spingere la vittima direttamente verso un sito malevolo, chi attacca prova a influenzare la fonte stessa da cui l’assistente virtuale pesca le sue risposte. Un cambio di prospettiva sottile ma parecchio insidioso.
Come Dark Sourcery inquina le risposte dei chatbot
Il metodo si basa su post, PDF, recensioni e finte pagine di assistenza sparse per Internet. Gli autori cercano di farle indicizzare e di spingerne la rilevanza con tecniche riconducibili al SEO poisoning. Quando qualcuno chiede supporto a un chatbot, il sistema può recuperare una parte di quei materiali e inserirla nella risposta. Così un’informazione messa in rete dall’attaccante si trasforma in un consiglio che sembra utile e innocuo.
Per Vigilance Security la manipolazione funziona meglio mescolando fonti diverse. Ariel Simon, vicepresidente della ricerca dell’azienda, ha spiegato che gli operatori avrebbero sfruttato sia siti percepiti come autorevoli, compresi portali universitari e istituzionali, sia forum, social network e recensioni. In pratica la tecnica approfitta del modo in cui questi sistemi valutano quanto un contenuto sia pertinente e credibile.
Tra i materiali scovati dai ricercatori c’è anche un falso riferimento all’assistenza per stampanti HP, completo di recapito telefonico creato dai truffatori. Casi simili toccano compagnie aeree, banche, società tecnologiche e servizi di viaggio. Nell’elenco dei marchi figurano Delta Air Lines, Lufthansa, Qatar Airways, JP Morgan Chase, Bank of America, Airbnb e TripAdvisor.
L’aspetto più particolare dell’operazione è che la persona potrebbe non aprire mai la pagina manipolata. Se il chatbot integra il dato falso nella propria risposta, il contenuto malevolo arriva dritto all’utente attraverso un’interfaccia considerata più semplice della ricerca tradizionale. Non c’è nemmeno bisogno di violare il sito dell’azienda impersonata, perché l’attacco punta allo strato informativo che alimenta la risposta.
Perché il rischio tocca anche le aziende
Le conseguenze diventano molto concrete quando la risposta contiene informazioni operative. Un finto numero di assistenza può portare a una telefonata in cui vengono chiesti dati finanziari, mentre un indirizzo email contraffatto può aprire la strada a una frode fatta di messaggi all’apparenza legittimi. Sono emerse anche segnalazioni di furti di dati di pagamento dopo il contatto con numeri falsi forniti dai sistemi di intelligenza artificiale.
A complicare le cose c’è il fatto che una risposta generata non è per forza una citazione fedele della fonte. Il sistema può mettere insieme informazioni prese da più pagine e restituirle in forma riassunta. Chi legge rischia quindi di prendere per un’unica informazione verificata qualcosa che nasce da materiali con livelli di affidabilità molto lontani tra loro.
Vigilance Security precisa che la campagna è ancora attiva e che la sua reale estensione non è stata stabilita. Il numero delle aziende coinvolte arriva dalla ricerca della stessa società di sicurezza e non corrisponde a un censimento indipendente dell’intero Web. Una distinzione che conta quando si prova a misurare la minaccia, perché il caso documenta una tecnica reale mentre la sua diffusione complessiva richiede altri controlli.
Per gli utenti la lezione principale riguarda l’uso delle risposte dei chatbot quando includono contatti, credenziali, pagamenti o procedure per recuperare un account. In queste situazioni il sito ufficiale dell’azienda rimane un riferimento separato dalla risposta generata. Per le organizzazioni si apre invece un nuovo fronte, dato che tenere d’occhio le informazioni sul proprio marchio restituite dai sistemi di intelligenza artificiale può entrare a far parte delle attività di sicurezza e di tutela della reputazione digitale.
Fonte: TecnoAndroid
