Il contrasto ai deepfake su YouTube entra in una fase nuova e decisamente più aggressiva. La piattaforma di Google ha ampliato il proprio sistema di rilevamento dei contenuti video manipolati con l’intelligenza artificiale, potenziando in particolare la capacità di riconoscere politici, giornalisti e funzionari governativi all’interno delle clip caricate dagli utenti. Il meccanismo, nella sostanza, funziona in modo simile a Content ID, lo storico strumento per la gestione dei diritti digitali, solo che stavolta non si tratta di musica o filmati protetti da copyright, ma di volti reali di persone reali.
Chi vuole proteggere la propria immagine deve prima completare una procedura di verifica dell’identità. In pratica bisogna inviare un documento ufficiale insieme a un video selfie. A quel punto YouTube crea un profilo biometrico di riferimento. Ogni nuovo video caricato sulla piattaforma viene confrontato con questo modello, così da individuare eventuali imitazioni generate tramite tecniche di intelligenza artificiale. Secondo diversi osservatori, si tratta del primo vero sistema di difesa contro i deepfake implementato a livello di piattaforma con questa portata.
YouTube: un sistema efficace, ma con qualche zona d’ombra
L’aspetto che ha ricevuto più apprezzamenti, come sottolinea anche Forbes, è quello del cosiddetto rilevamento certo. Le persone registrate forniscono un documento governativo e un video di verifica: questo permette a YouTube di costruire un modello biometrico solido e affidabile. Il risultato è una riduzione quasi totale dei falsi positivi, perché il problema non è più riconoscere un deepfake in modo generico. La vera sfida diventa verificare se un contenuto corrisponde oppure no a un volto già presente nel database.
La maggior parte delle piattaforme oggi non dispone di nulla di paragonabile. Eppure, anche questo sistema non è privo di limiti. Il meccanismo di YouTube analizza esclusivamente i volti, non le voci. Questo significa che un clone vocale sufficientemente convincente potrebbe passare inosservato senza alcun problema. E non è un dettaglio da poco, considerando quanto le tecnologie di sintesi vocale siano migliorate negli ultimi mesi.
Ci sono dei rischi legati alle identità sintetiche
Un’altra criticità riguarda la fase di registrazione stessa. Come hanno fatto notare diversi analisti, in teoria anche i dati utilizzati per creare il profilo di riferimento su YouTube potrebbero essere manipolati. Un malintenzionato potrebbe tentare di registrarsi utilizzando identità sintetiche costruite ad arte, aggirando così il sistema dall’interno. È uno scenario estremo, certo, ma tutt’altro che impossibile con gli strumenti disponibili oggi.
È ragionevole pensare che Google stia già lavorando per chiudere anche questa falla. Del resto, la sfida ai deepfake non si gioca su un singolo aggiornamento, ma su un lavoro costante di adattamento.
