Le app di nudo AI sono diventate un problema serio, e il fatto che si trovino ancora sul Play Store (e non solo) la dice lunga su quanto sia difficile arginare certi fenomeni legati all’intelligenza artificiale. Un report ha messo in luce una situazione piuttosto imbarazzante per Google e Apple: nonostante entrambe le aziende abbiano regole chiare contro questo tipo di applicazioni, i loro store digitali ne ospitano ancora parecchie. E la cosa più assurda è che, in alcuni casi, i sistemi di ricerca e pubblicità interni sembrano addirittura indirizzare gli utenti verso queste app.
Il funzionamento è quello che ci si può aspettare: si carica una foto di una persona reale e l’app, sfruttando modelli di intelligenza artificiale generativa, produce un’immagine di nudo del soggetto. Tutto questo, ovviamente, senza alcun consenso da parte della persona ritratta. Parliamo di strumenti comunemente chiamati “nudify”, che rientrano a pieno titolo nella categoria dei contenuti sessuali non consensuali, vietati sia dalle norme di Google Play sia dalle linee guida dell’App Store di Apple.
Eppure, cercando termini come “nudify” o “undress” sugli store, il report ha evidenziato che saltano fuori decine di risultati. Peggio ancora: i sistemi di completamento automatico suggeriscono attivamente questi termini, e alcune delle app in questione risultano classificate come adatte a tutti, senza alcun limite di età. Un dettaglio che fa riflettere sulla reale efficacia dei meccanismi di controllo attuali.
La dichiarazione ufficiale di Google e i provvedimenti adottati
Dopo che la notizia ha iniziato a circolare, Google ha rilasciato una dichiarazione ufficiale piuttosto netta: “Google Play non consente app che contengono contenuti sessualmente espliciti. Quando ci vengono segnalate violazioni delle nostre norme, indaghiamo e adottiamo i provvedimenti del caso. Molte delle app citate in questo rapporto sono state sospese da Google Play per violazione delle nostre norme. Il nostro processo di indagine e di applicazione delle norme è tuttora in corso”.
Insomma, la casa di Mountain View ha confermato di aver già preso provvedimenti concreti contro diverse app di nudo AI, sospendendole dal Play Store, e di star continuando le indagini su quelle ancora presenti. Anche Apple, dal canto suo, ha fatto sapere di aver rimosso diverse applicazioni incriminate dal proprio store.
Un problema che va oltre la singola app
La questione, però, non si esaurisce con qualche rimozione. Il punto critico è il meccanismo stesso con cui gli store funzionano: se un utente cerca determinati termini e il sistema gli propone risultati pertinenti, magari pure sponsorizzati, significa che il problema è strutturale. Non basta eliminare le app una volta scoperte, perché ne spuntano di nuove continuamente. E il fatto che alcune riescano a superare i controlli iniziali con una classificazione per tutte le età dimostra che i filtri automatici, per quanto sofisticati, hanno ancora falle significative.