Il Procuratore Generale di San Francisco, David Chiu, ha messo nero su bianco un ordine preciso: Apple e Google devono rimuovere 13 app di nudificazione dai rispettivi negozi digitali. Nelle diffide inviate alle due aziende il concetto è chiaro. Non possono agevolare la diffusione di immagini intime non consensuali, perché la legge statale lo vieta in modo esplicito. C’è di più, perché entrambe sono state invitate a interrompere ogni collaborazione con gli sviluppatori dietro a questi software. Alcune di queste applicazioni, va detto, risultano già sparite dagli store.
Il punto curioso è che sia Apple sia Google, sulla carta, vietano già la pubblicazione di app con contenuti sessuali. Eppure i ricercatori del Tech Transparency Project ne hanno trovate oltre 100 che permettono di spogliare persone reali. Non erano nemmeno nascoste. In diversi casi venivano suggerite direttamente dall’algoritmo di ricerca e alcune erano addirittura classificate come adatte a tutti, quindi raggiungibili anche da minorenni.
Deepfake sessuali, un problema che tocca tutte le piattaforme
Questa vicenda mette in luce una cosa scomoda. I controlli automatici o manuali non funzionano granché bene. E sgretola anche la “scusa” della sicurezza tirata fuori da Apple per opporsi al rispetto del Digital Markets Act. Il Procuratore Generale della California ha ordinato la rimozione di 13 app in totale, otto da App Store e cinque da Play Store. Tutte hanno lo stesso denominatore comune: consentono di creare deepfake sessuali sfruttando l’intelligenza artificiale.
Un dettaglio che pesa. Queste app offrivano contenuti a pagamento, il che significa che Apple e Google hanno pure incassato le commissioni versate dagli sviluppatori. Un portavoce di Google ha fatto sapere che le cinque app segnalate dal Procuratore sono state tolte. La dichiarazione ufficiale spiega che Play Store non ammette app con contenuti sessuali e che vengono adottate misure proattive per individuarle e rimuoverle. Quando arrivano segnalazioni di violazioni, l’azienda dice di indagare e intervenire in fretta. In questo caso ciò ha comportato la sospensione di centinaia di app fuori dalle regole e la limitazione di termini di ricerca come “nudify” all’interno dello store.
Sul fronte Apple, la risposta è simile. Un portavoce ha comunicato che sono state rimosse tre delle app segnalate e che gli account degli sviluppatori coinvolti verranno chiusi. La società ribadisce che App Store è nato per essere un luogo sicuro e affidabile, dove le app pensate per generare, distribuire o consumare materiale pornografico sono sempre state vietate senza mezzi termini. Le app di nudificazione violano quelle linee guida, e Apple sostiene di averne respinte molte in anticipo, oltre ad averne eliminate altre dopo le segnalazioni degli utenti.
Il guaio è che i deepfake sessuali non sono un problema circoscritto a questi due colossi. Riguardano praticamente ogni piattaforma. SpaceXAI ha da poco denunciato un utente per aver creato immagini e video aggirando le protezioni di Grok. Contenuti simili girano anche su Instagram, distribuiti senza troppa fatica. Sul piano normativo qualcosa si muove: il Parlamento europeo ha approvato il divieto delle app di nudificazione.
