In questo articolo Indice dei contenuti 2 sezioni
Negli store ufficiali di Apple e Google si nascondono centinaia di app per creare deepfake espliciti, mascherate da strumenti del tutto innocui. Un’indagine giornalistica ha portato alla luce oltre 400 tra applicazioni e siti web capaci di generare immagini esplicite non consensuali grazie all’intelligenza artificiale. Il dettaglio più inquietante riguarda il travestimento scelto per passare inosservate. Molte si presentano come app per imparare le lingue, altre promettono di ritoccare le foto degli animali domestici, altre ancora offrono consigli per l’allenamento.
Per App Store e Google Play Store il problema assume dimensioni sempre più ampie. E non si tratta di casi isolati sfuggiti per distrazione ai sistemi di revisione, perché il meccanismo sembra studiato proprio per aggirarli.
Una crescita di oltre dieci volte in pochi mesi
Il fenomeno in sé non è una novità, però i numeri raccontano un’accelerazione evidente. All’inizio dell’anno erano state individuate circa 38 applicazioni di questo genere distribuite tra i due negozi digitali. Già quel gruppo relativamente ristretto aveva totalizzato 483 milioni di download e generato ricavi per circa 105 milioni di euro. Oggi il conteggio supera di oltre dieci volte quella cifra iniziale, segno che il mercato dei generatori di deepfake continua ad attirare sviluppatori disposti a giocare sporco.
Per Apple e Google la questione è delicata. Entrambe le aziende rivendicano da anni controlli severi sui contenuti pubblicati nei rispettivi store, eppure queste app riescono comunque a superare le verifiche e a raggiungere milioni di utenti. Il motivo sta tutto nel modo in cui sono costruite.
Il trucco del server esterno, come un malware
I ricercatori hanno riscontrato comportamenti praticamente identici a quelli del classico malware. Al primo avvio l’interfaccia appare del tutto ordinaria e l’applicazione svolge davvero la funzione pubblicizzata. Chi la scarica per esercitarsi con un corso di lingua trova effettivamente un corso di lingua, almeno all’inizio. Una volta installato, però, il software entra in comunicazione con un server esterno che stabilisce quali funzionalità rendere disponibili su quel dispositivo.
Questo sistema permette alla stessa app di comportarsi in due modi completamente diversi. Può restare una normale applicazione per tutto il tempo oppure trasformarsi in uno strumento per produrre deepfake espliciti, senza che l’utente riesca ad accorgersi subito del cambiamento. Lo stesso vale, verosimilmente, per chi deve esaminarla prima della pubblicazione, dato che la parte nascosta non si attiva a comando.
Gli investigatori non sono riusciti a individuare una regola precisa che determini lo sblocco della versione occulta. È emersa comunque una certa correlazione con le pubblicità di Meta. Quando l’app viene scaricata subito dopo aver cliccato su un annuncio contenente materiale deepfake esplicito, la probabilità che compaia la funzione nascosta sembra aumentare. Un elemento che chiama in causa anche i sistemi di sicurezza e moderazione delle piattaforme pubblicitarie, finiti di fatto a fare da vetrina proprio ai contenuti che dovrebbero bloccare.
Fonte: TecnoAndroid