In questo articolo Indice dei contenuti 2 sezioni
Google DeepMind e GovTech Singapore stanno lavorando a un’intelligenza artificiale antitruffa che analizza i messaggi sullo smartphone e prova a riconoscere l’inganno mentre prende forma, scambio dopo scambio. L’idea non è dare la caccia al singolo link sospetto o alla parola che fa scattare l’allarme. Il sistema punta più in alto e cerca di individuare le strategie con cui i truffatori si guadagnano la fiducia delle vittime per poi manipolarle. Alla base c’è Gemma, la famiglia di modelli AI aperti di Google, e il progetto potrebbe tornare utile ben oltre i confini di Singapore. Le tecniche usate per agganciare le persone, del resto, sono un problema che riguarda il mondo intero.
Come funziona l’AI di Google che smaschera le truffe
Il meccanismo si articola in due fasi. Prima entra in gioco un programma leggero che passa in rassegna i messaggi in arrivo alla ricerca di eventuali segnali sospetti, senza pesare troppo sulle risorse del telefono. Solo se qualcosa non torna interviene un modello Gemma specializzato, che esamina un insieme più ampio di conversazioni. Qui l’obiettivo cambia natura perché non si tratta più di trovare parole chiave o collegamenti fraudolenti ma di cogliere i meccanismi di manipolazione veri e propri, come l’usurpazione d’identità o le richieste fuori dal comune.
Un esempio aiuta a capire meglio. Un falso reclutatore scrive a una persona per diversi giorni e i primi messaggi sembrano del tutto normali, quasi banali. Poi, una volta costruito un rapporto di fiducia, arriva la richiesta di pagare delle “spese di pratica” per chiudere un’assunzione che in realtà non esiste. È proprio questa progressione graduale che Google vuole intercettare, anche se per ora non è chiaro in quale momento della conversazione il sistema sarebbe in grado di lanciare l’allerta.
Quando scatta il sospetto, sul telefono compare un avviso che invita alla prudenza prima di condividere informazioni sensibili o di effettuare un pagamento. Per l’addestramento, Google e GovTech hanno impiegato dati anonimizzati ricavati da segnalazioni di frodi e informazioni sulle modalità operative diffuse a livello locale. Le conversazioni private dei cittadini, invece, sono rimaste fuori dal processo.
Privacy, efficacia e diffusione ancora da chiarire
Controllare i messaggi direttamente sul dispositivo non è certo una novità assoluta. WhatsApp offre già Scam Alert, mentre Messaggi di Google è in grado di riconoscere alcuni SMS fraudolenti. Quello che distingue il nuovo progetto è lo sguardo sulle conversazioni nel tempo, affidato a un modello istruito a riconoscere le tattiche di manipolazione partendo dai dati sulle truffe già censite.
Sul fronte della riservatezza c’è un punto a favore, visto che gli scambi vengono elaborati sullo smartphone senza essere inviati ai server di Google o alle autorità. Una garanzia interessante, che però lascia aperti diversi interrogativi sull’accesso ai messaggi, sulle app coinvolte e sul margine di controllo concesso a chi usa il telefono.
Mancano poi i numeri. Google non ha ancora diffuso dati dettagliati né sull’efficacia del sistema né sui falsi allarmi. La tecnologia, pensata in origine per Singapore, non è ancora disponibile per il grande pubblico e non si sa quali servizi di messaggistica e quali smartphone saranno compatibili. Nemmeno l’eventuale arrivo nel resto del mondo è stato confermato, anche se un’AI antitruffa di questo tipo farebbe comodo un po’ ovunque, a patto che funzioni davvero.
Fonte: TecnoAndroid