Le cosiddette app nudify continuano a rappresentare un problema serio sugli store digitali, e un nuovo rapporto punta il dito direttamente contro Apple e il suo App Store. Secondo un’indagine del Tech Transparency Project (TTP), i sistemi di ricerca e pubblicità interni allo store avrebbero di fatto facilitato agli utenti il ritrovamento di applicazioni in grado di generare immagini di nudo deepfake, spesso con soggetti femminili. Non si tratta di un caso isolato: già a gennaio dello stesso anno, il TTP aveva individuato decine di queste app sullo store Apple, e ora il quadro si è fatto ancora più dettagliato.
Stando al rapporto, sia l’App Store sia il Google Play Store starebbero aiutando gli utenti a trovare app che creano deepfake di nudo, in alcuni casi attraverso risultati sponsorizzati e suggerimenti automatici nella barra di ricerca. Il TTP ha evidenziato che quasi il 40% delle prime 10 app restituite per ricerche come “nudify”, “undress” e “deepnude” era in grado di generare immagini di donne nude o seminude. Alcune di queste app risultavano addirittura classificate come adatte ai minori, il che rende la faccenda ancora più grave.
Pubblicità e suggerimenti automatici: il ruolo attivo dello store
Ma il punto più delicato riguarda il modo in cui lo store stesso contribuiva a far emergere queste app. Il rapporto descrive un caso emblematico: cercando “deepfake” nell’App Store, il primo risultato era un annuncio sponsorizzato per FaceSwap Video by DuoFace, un’app che consente di sovrapporre il volto di chiunque, partendo da una foto, su un video. Durante i test, il TTP ha caricato l’immagine di una donna vestita e un video di una donna a torso nudo: l’app ha generato senza alcuna restrizione un video con il volto della prima sovrapposto al corpo della seconda.
Un altro esempio riguarda la ricerca “face swap”, che restituiva una pubblicità per un’app chiamata AI Face Swap. Anche in quel caso, caricando foto di donne vestite e immagini di nudo, l’app eseguiva lo scambio di volti senza blocchi di alcun tipo. La cosa funzionava in modo disinvolto, senza filtri evidenti.
Ancora più significativo è il dettaglio sui suggerimenti automatici: digitando “AI NS” nella barra di ricerca dell’App Store, il sistema proponeva automaticamente “image to video ai nsfw”, e quella ricerca portava a diverse app nudify tra i primi dieci risultati. Un meccanismo che, di fatto, guidava gli utenti passo dopo passo verso contenuti potenzialmente dannosi.
Il TTP non si è limitato a contattare Apple e Google: ha interpellato anche gli sviluppatori di alcune di queste applicazioni. In almeno un caso, lo sviluppatore ha confermato di utilizzare Grok per la generazione delle immagini, dichiarando però di non avere idea che il sistema fosse in grado di produrre contenuti così estremi. Lo stesso sviluppatore ha promesso di rafforzare le impostazioni di moderazione.
Apple, dal canto suo, non ha rilasciato commenti ufficiali in risposta alla richiesta del TTP. Tuttavia, dopo la pubblicazione del rapporto, ha provveduto a rimuovere la maggior parte delle app identificate dall’indagine.