Google e Apple tornano al centro del dibattito sulla sicurezza degli store digitali dopo la pubblicazione di un’indagine che mette in luce la diffusione di app capaci di creare deepfake sessualizzati senza consenso. A sollevare il caso è stata Tech Transparency Project, organizzazione no profit che monitora l’impatto delle grandi piattaforme tecnologiche, individuando decine di applicazioni disponibili sia su Android che su iOS.
Decine di app e numeri davvero impressionanti
Secondo quanto emerso, il fenomeno non è affatto marginale. Il progetto ha identificato 55 app presenti sul Google Play Store e 48 sull’App Store di Apple in grado di generare immagini manipolate a partire da fotografie di persone vestite. Queste applicazioni sfruttano l’intelligenza artificiale per alterare le immagini, arrivando a produrre contenuti esplicitamente sessualizzati senza il consenso dei soggetti ritratti.
Il metodo di individuazione è stato piuttosto diretto: i ricercatori hanno cercato termini come “nudify” e “undress”, per poi testare le app utilizzando immagini generate artificialmente di donne completamente vestite. I test hanno riguardato sia app basate sulla rimozione digitale degli abiti sia strumenti di face swap, che sovrappongono volti reali a corpi nudi preesistenti.
Un problema strutturale, non un equivoco
Per Katie Paul, direttrice del Tech Transparency Project, la natura di queste app è evidente. Non si tratterebbe di semplici strumenti creativi, ma di prodotti progettati per la sessualizzazione non consensuale delle persone. A rendere il quadro ancora più preoccupante sono i numeri: complessivamente, queste app avrebbero superato 705 milioni di download nel mondo, generando ricavi stimati in 117 milioni di dollari.
Cosa dicono in merito Google e Apple
Dopo la segnalazione, Google sarebbe intervenuta per rimuovere alcune applicazioni, mentre Apple avrebbe eliminato 28 app dal proprio store. Due di queste, però, sarebbero tornate disponibili dopo l’invio di versioni aggiornate ritenute conformi alle linee guida. La situazione sembra quindi molto seria ma soprattutto pericolosa.