A
Il fenomeno dei deepfake sessuali ha raggiunto dimensioni allarmanti. Le app dedicate sono diffuse e facilmente accessibili. Ed inoltre milioni di utenti le hanno già scaricate. I ricavi generati sono estremamente elevati. Il problema riguarda direttamente la tutela delle persone. Le immagini create sono spesso non consensuali. Le vittime non sanno di essere coinvolte. E donne comuni vengono spogliate dalla tecnologia. Bastano una foto e pochi secondi di elaborazione. Il danno è immediato e difficile da cancellare. La circolazione online rende tutto permanente. I rischi psicologici e reputazionali sono enormi.
Non si tratta di casi isolati o marginali. Il fenomeno è ormai strutturato e mondiale. Le piattaforme digitali sono chiamate in causa. Gli store ufficiali ospitano queste applicazioni. La presenza sugli store conferisce una parvenza di legittimità. Questo aumenta la fiducia degli utenti finali. Le rimozioni, quando avvengono, però risultano tardive. Alcune app tornano disponibili con leggere modifiche. I controlli sembrano facilmente aggirabili. La questione ha attirato l’attenzione delle autorità europee. Per questo motivo anche l’Unione Europea ha avviato verifiche specifiche.
App con deepfake sessuali sugli store di Google e Apple
Tech Transparency Project ha condotto l’indagine. L’organizzazione ha analizzato Google Play e App Store. Sono state individuate decine di applicazioni problematiche. Cinquantacinque erano presenti sullo store Android. Quarantotto risultavano disponibili su iOS. Le app permettono di creare immagini sessualizzate. L’intelligenza artificiale genera nudi realistici. Alcune applicazioni rimuovono digitalmente i vestiti. Altre usano tecniche di face swap. I volti vengono sovrapposti a corpi nudi. I test sono stati effettuati con immagini artificiali. Le descrizioni delle app non lasciavano dubbi. Termini come “nudify” e “undress” erano espliciti.
Secondo gli esperti, lo scopo è evidente. Non si tratta di semplici strumenti creativi. Sono progettate per la sessualizzazione non consensuale. Le cifre sono impressionanti. Oltre settecento milioni di download complessivi. I ricavi superano i cento milioni di dollari. Google ha rimosso alcune applicazioni segnalate. Apple ne ha eliminate ventotto. Alcune sono tornate online con nuove versioni. Gli sviluppatori hanno dichiarato di rispettare le linee guida. Questo solleva ulteriori dubbi sui controlli preventivi.