In questo articolo Indice dei contenuti 2 sezioni
Centinaia di app con funzioni deepfake sessuali e violente, mascherate dietro servizi del tutto innocui, sono riuscite a entrare nell’App Store di Apple dopo aver superato regolarmente la revisione prevista per ogni nuova applicazione. Le stesse app erano disponibili anche sul Google Play Store, il che fa pensare a un sistema studiato apposta per aggirare i controlli di entrambe le piattaforme più diffuse al mondo.
Un’inchiesta giornalistica ha portato alla luce più di 400 applicazioni che sembrano essere state create da un’unica organizzazione cinese. Il meccanismo è semplice e proprio per questo preoccupante. Gli utenti caricano delle fotografie e il software genera deepfake sessuali e violenti che potrebbero essere sfruttati per umiliare o minacciare le persone ritratte, ovviamente senza il loro consenso.
Una rete di oltre 400 app nascosta in piena vista
L’indagine ha ricostruito un vero e proprio network di domini e applicazioni collegati tra loro, oltre 400 in tutto, accomunati da funzionalità abusive tenute ben lontane dagli occhi dei revisori. Un esempio è Viefur, che in apparenza serve ad aggiungere vestitini alle foto degli animali domestici. Altre app si presentano come strumenti di uso quotidiano come corsi di lingua o allenatori virtuali basati sull’intelligenza artificiale per l’attività fisica.
Il punto è che, in determinate condizioni, queste applicazioni caricano di nascosto un’interfaccia web che permette di creare immagini e video sessualmente espliciti a partire dalle foto caricate. Tra gli scenari proposti compaiono modelli chiamati “stupro in camera da letto” e “coltello minaccioso”, con un uomo che punta una lama al collo di una donna. Contenuti di questo tipo violano apertamente le regole delle piattaforme, eppure circolavano senza grandi ostacoli.
La rete, secondo l’inchiesta, si nascondeva praticamente in piena vista grazie a migliaia di annunci video su Facebook e Instagram. Alcune di queste app sono rimaste online per circa un anno e hanno superato i controlli di Apple, Google e Meta, nonostante tutte e tre le aziende abbiano politiche chiare che vietano i deepfake dannosi.
Il trucco per ingannare la revisione e la risposta di Apple
Per superare l’esame delle piattaforme è stata usata una tattica piuttosto collaudata, quella dell’esca. In condizioni normali le app mostravano soltanto contenuti innocui, ma una verifica lato server poteva attivare le funzioni nascoste in qualsiasi momento. Uno degli elementi che sembrava far scattare il cambiamento era il download dell’applicazione dopo aver toccato una pubblicità dedicata proprio alla funzione deepfake sulle piattaforme di Meta. A quel punto diventavano scaricabili decine di modelli pornografici per foto e video, e per generare i contenuti a partire dalle immagini caricate bisognava acquistare dei crediti.
Dopo aver ricevuto i dettagli dell’indagine, Apple ha rimosso dall’App Store 19 applicazioni. L’azienda di Cupertino ha spiegato di esaminare ogni app prima della pubblicazione e che quelle coinvolte rispettavano le regole al momento della revisione. Solo in un secondo momento gli sviluppatori hanno modificato il sito web da cui le app prelevavano i contenuti, sostituendo quanto approvato con materiale pornografico e promuovendolo attraverso pubblicità a sfondo sessuale ospitate su una piattaforma di terze parti.
Apple ha inoltre fatto sapere di aver rafforzato di recente le proprie protezioni contro questo genere di stratagemma. Meta, dal canto suo, ha dichiarato di essere intervenuta su oltre 10.000 account pubblicitari collegati ai domini associati a queste applicazioni.
Fonte: TecnoAndroid