In questo articolo Indice dei contenuti 2 sezioni
Apple ha rimosso dall’App Store un’app nudify capace di generare deepfake pornografici di persone reali, un’applicazione che nelle settimane precedenti era stata spinta da una campagna pubblicitaria attiva su Meta. Il nome è Kromix e si presentava come un innocuo “AI image styler”, uno di quei programmi che promettono di ritoccare le immagini con qualche filtro creativo. La realtà raccontata dai suoi stessi annunci era piuttosto diversa.
Uno degli spot, in particolare, mostrava una donna somigliante in modo evidente a una nota politica statunitense, ritratta davanti alla bandiera americana e a quella presidenziale, accompagnata dalla scritta “What if she moved?”. Nel video la figura strizzava l’occhio, poi la scena tagliava su una donna con lo stesso volto impegnata in un contenuto pornografico. Il voice over di un altro annuncio parlava di uno strumento “senza restrizioni”, ribadiva che “tutti i personaggi sono persone reali” e chiudeva con lo slogan “l’IA che gli uomini usano davvero”.
Apple rimuove Kromix: le funzioni vietate aggiunte dopo la revisione
La campagna pubblicitaria contava 32 annunci, rivolti in modo esclusivo a un pubblico maschile. Entrambe le aziende hanno reagito solo dopo essere state contattate per un commento: Apple ha cancellato l’applicazione dallo store, mentre Meta ha chiuso la campagna. Una tempistica che dice qualcosa sul funzionamento dei filtri automatici di controllo, sia sul fronte della distribuzione delle app sia su quello della pubblicità.
Nella sua risposta, Apple ha sottolineato un punto tecnico non irrilevante: Kromix sembrerebbe aver introdotto i contenuti e le funzionalità proibite dopo aver superato la revisione iniziale dell’App Store. Una tattica nota, quella di presentarsi in fase di approvazione con un volto pulito per poi attivare il resto in un secondo momento. L’azienda ha ricordato di aver “sempre vietato in modo rigoroso le app progettate per generare, distribuire o consumare pornografia” e ha aggiunto che le applicazioni di “nudification” violano le App Review Guidelines, precisando di lavorare in modo aggressivo per individuare e rimuovere sia le app sia gli account degli sviluppatori che provano ad aggirare processi e policy.
Non è il primo caso e non è l’unica app finita fuori
Il ragionamento portato avanti da Cupertino ricalca quasi parola per parola quello offerto il mese precedente, quando il City Attorney di San Francisco David Chiu aveva chiesto formalmente la rimozione di otto app nudify presenti sullo store. Segnale che il problema non riguarda un caso isolato ma un filone che continua a rigenerarsi, sfruttando descrizioni ambigue e aggiornamenti successivi all’approvazione.
Kromix, del resto, non è nemmeno l’unica applicazione di questo tipo tolta di recente dal catalogo. Un’altra indagine ha portato a galla una serie di annunci problematici sempre su Meta, collegati a MaskAI, un’app disponibile su App Store che permetteva di caricare fotografie e inserire i volti delle persone in situazioni sessuali tramite face swap. Anche quella applicazione è stata rimossa da Apple dopo la richiesta di chiarimenti.
Il meccanismo resta lo stesso in tutti i casi emersi: la promozione avviene sui grandi circuiti pubblicitari, con targeting preciso e messaggi che non nascondono la natura del prodotto, mentre la distribuzione passa dai canali ufficiali degli store. I deepfake pornografici prodotti in questo modo colpiscono persone reali, spesso donne e figure pubbliche, senza alcun consenso. La rimozione delle app arriva, ma arriva dopo la segnalazione esterna, non prima. E nel frattempo gli annunci hanno girato liberamente sulle piattaforme di Meta, raggiungendo il pubblico a cui erano stati destinati.
