Meta finisce di nuovo sotto pressione sui deepfake sessuali, questa volta per un video rimasto online su Instagram nonostante diverse segnalazioni. A puntare il dito è l’Oversight Board, il comitato che si occupa dei ricorsi presentati dagli utenti, che ha chiesto all’azienda di Menlo Park di rafforzare le tutele per chi non è un personaggio pubblico ma si ritrova comunque preso di mira da contenuti generati con l’intelligenza artificiale. Il caso risale a settembre 2025 e ha messo in luce parecchi limiti nelle regole attuali della piattaforma.
Cosa è successo con il video segnalato
Un utente aveva segnalato un filmato di appena 8 secondi, creato con l’AI, che ritraeva una donna reale. Le segnalazioni si sono ripetute, ma il video è rimasto comunque al suo posto. A quel punto è arrivato il ricorso al comitato, in cui veniva spiegato che la persona ripresa era un’amica di chi segnalava, una ragazza che nel frattempo aveva chiuso il proprio account. La risposta di Meta è stata netta: nessuna violazione, anche se la visibilità del contenuto è stata limitata ai soli maggiorenni.
Il motivo della mancata rimozione era piuttosto sottile. Il video non era stato segnalato direttamente dalla persona reale raffigurata, e questo bastava a Meta per lasciarlo dov’era. Il comitato, però, la vede diversamente. Secondo gli esperti il contenuto rientra pienamente nei tre criteri previsti dalla politica sulle immagini intime non consensuali: si tratta di materiale non commerciale, ambientato in un contesto apparentemente privato, con una donna quasi nuda e senza alcun consenso. Da qui la richiesta esplicita di togliere il video da Instagram.
Regole da aggiornare e nuove tutele per gli utenti
Il comitato non si è fermato al singolo caso. Ha ricordato che in molti paesi sono ormai in arrivo norme più severe per le piattaforme che ospitano contenuti generati dall’intelligenza artificiale. Il Parlamento europeo, ad esempio, ha approvato il divieto per le app di nudificazione e per la creazione di deepfake sessuali, mentre la diffusione di immagini e video che raffigurano abusi su minori è diventata un reato penale a tutti gli effetti.
Sul fronte delle regole interne, le indicazioni sono concrete. Meta dovrebbe specificare nero su bianco, all’interno delle norme sullo sfruttamento sessuale degli adulti, che le rappresentazioni sessualizzate di persone reali realizzate con l’AI sono vietate. Nel modulo per le segnalazioni andrebbe poi aggiunta una categoria a sé, separata da quelle già esistenti come molestie e nudità, in modo da intercettare meglio questo tipo di abusi.
C’è infine un’idea che potrebbe cambiare parecchio le cose per chi finisce vittima di questi contenuti. Il comitato suggerisce di permettere agli utenti di designare degli account collegati, persone di fiducia come amici, familiari o conoscenti, autorizzati a segnalare per loro conto eventuali violazioni degli standard della community. Una soluzione pensata proprio per situazioni come quella del video incriminato, dove la persona ritratta aveva già abbandonato la piattaforma e non poteva quindi muoversi in prima persona contro chi aveva diffuso il filmato.