In questo articolo Indice dei contenuti 2 sezioni
I deepfake generati con l’intelligenza artificiale stanno diventando un’arma per zittire chi partecipa al dibattito pubblico, e in particolare le donne. È la sostanza della decisione dell’Oversight Board, l’organismo indipendente che vigila sulle scelte di moderazione di Meta, che ha ribaltato la posizione dell’azienda su un video manipolato ai danni di una consigliera laburista scozzese. Un contenuto che Facebook aveva deciso di lasciare online, nonostante due segnalazioni.
Il video risale a novembre 2025. Mostrava il volto della consigliera mentre pronunciava una frase costruita a tavolino contro i rifugiati, accusandoli in blocco di violenze sessuali. A guardarlo con attenzione qualche crepa si vedeva, l’audio non era perfettamente sincronizzato con i movimenti della bocca, segno tipico di una fabbricazione digitale. Il filmato faceva parte di un album che conteneva anche foto di diverse donne identificate con nome e cognome, fotografate durante una protesta contro l’estrema destra. Insieme, album e video hanno raccolto oltre 5.000 visualizzazioni, più di 50 commenti, oltre 20 reazioni e più di 10 condivisioni.
Perché Meta aveva deciso di non toccare nulla
Due persone, tra cui la politica ritratta, hanno segnalato il contenuto per violazione della policy su bullismo e molestie. I sistemi automatici di Meta non hanno però dato priorità al caso per una revisione umana e il post è rimasto dov’era. Anche dopo l’appello. Una delle due segnalanti, non la consigliera, si è quindi rivolta al Board. Solo a quel punto l’azienda ha riesaminato la questione, concludendo però che il video non violava i Community Standards e non meritava nemmeno un’etichetta AI.
Le motivazioni portate da Meta sono diverse. Il video non rientrerebbe nella disinformazione perché nessun membro del programma Trusted Partner lo aveva segnalato. Non sarebbe ingerenza elettorale perché la consigliera non era candidata alle elezioni locali scozzesi del 7 maggio 2026. E poi il basso engagement, unito alla presunta natura satirica del contenuto. Tutto questo mentre immigrazione e alloggi per richiedenti asilo erano al centro di uno scontro politico piuttosto acceso.
Il Board ha valutato il caso su tre policy diverse, ovvero Hateful Conduct, disinformazione e bullismo e molestie. La maggioranza ha stabilito che il video andava rimosso in base alle regole sull’odio, perché accusa i rifugiati nel loro insieme di reati gravi e comportamenti sessuali predatori, non solo alcuni di loro come sosteneva Meta. Una minoranza ha dissentito, ritenendo che l’attacco fosse diretto alle opinioni attribuite alla politica e che per il discorso politico la soglia di rimozione debba restare più alta.
L’etichetta che non c’era e le nove raccomandazioni
Sul fronte disinformazione la maggioranza ha ritenuto che la rimozione non fosse giustificata, ma che il video avrebbe dovuto ricevere un’etichetta High Risk AI. Il giudizio complessivo è netto, le regole di Meta sull’etichettatura dei deepfake sono inadeguate. Anche qui le posizioni si sono divise, con chi considerava l’etichetta troppo restrittiva e avrebbe preferito la più leggera AI Info, e chi invece, vista la gravità dei danni e il fatto che nella pratica Meta applica pochissime etichette AI, avrebbe scelto direttamente la rimozione. Sul bullismo il Board ha invece dato ragione all’azienda, perché una funzionaria eletta è una figura pubblica e gode di una protezione minore rispetto a un privato cittadino.
In una decisione separata l’organismo ha ordinato la rimozione di un altro video manipolato con l’AI, che derideva una giovane donna musulmana in Europa impegnata in una campagna sull’educazione alla salute mestruale. Il filmato la mostrava mentre faceva esercizi assurdi e mangiava junk food, e ha totalizzato decine di milioni di visualizzazioni su varie piattaforme. Le salvaguardie di Meta sono state definite “consistentemente e fondamentalmente inadeguate” davanti alla crescita dei contenuti sintetici.
“Da politici a cittadini privati, i deepfake generati dall’IA sono sempre più usati per molestare e mettere a tacere le donne, allontanandole dal discorso pubblico”, ha dichiarato Pamela San Martin, co presidente del Board.
Tra i due casi sono arrivate nove raccomandazioni, con 60 giorni di tempo per rispondere. Meta dovrebbe abbassare la soglia per le etichette High Risk, slegandole da crisi ed emergenze elettorali, e introdurre più attrito per chi visualizza questi contenuti, per esempio un interstitial che obbliga a un clic prima di vedere il video. Chiesta anche la demonetizzazione, la riduzione della diffusione e l’esclusione dalle raccomandazioni per i contenuti etichettati, con penalità crescenti per chi li condivide più volte. Il Board vuole inoltre che le regole su voto e censimento valgano ovunque e non solo negli Stati Uniti, che nel Transparency Center compaiano dati annuali sull’uso delle etichette, anche quando riguardano politici, e che tutte le etichette siano visibili e filtrabili nella Meta Content Library.
Fonte: TecnoAndroid
