C’è stato un momento, all’inizio del conflitto in Ucraina, in cui un particolare video ha cominciato a circolare sui social network. Una clip in cui il presidente di Kiev, Volodymyr Zelensky, chiedeva alla popolazione di arrendersi, contraddicendo quanto affermato dalle prime ore del conflitto. Quel video, in realtà, non esisteva: era un deepfake, ovvero un contenuto creato dall’intelligenza artificiale per sembrare autentico.
I deepfake sono un argomento che, su base abbastanza regolare, viene discusso molto frequentemente. Sta succedendo di nuovo in questi giorni a causa di un’applicazione chiamata Fake You e che permette, in breve, di generare audio da un testo. Il punto è che il servizio prevede una serie di voci di personaggi piuttosto famosi, a cui l’utente può sostanzialmente fargli dire quello che vuole. Ci sono anche alcuni italiani, tra i più noti Giorgia Meloni, Silvio Berlusconi e Gerry Scotti. Un passo successivo è anche la realizzazione dei video: ci sono modelle dai volti famosi, come Elon Musk o Donald Trump, a cui l’utente può fargli dire quello che vuole anche in video.
Come funziona Fakeyou
L’applicazione è disponibile per tutti ed è molto semplice da usare. Le voci variano in qualità: a volte particolarmente realistiche, altre un po’ meccaniche. La piattaforma è stata creata da un team di sviluppo statunitense con sede ad Atlanta guidato da Brandon Thomas, che ha sviluppato la tecnologia alla base del servizio. Il punto, però, è che il sistema è aperto: se accedi al sito, troverai un annuncio che offre agli utenti un contributo economico fino a 150 dollari per la generazione di nuove voci, facendo riferimento al canale ufficiale su Discord.
Facendo un giro delle voci, capisci come Fakeyou sia destinato a diventare molto più grande di quanto non sia ora. Nel solo canale italiano la conversazione è continua, e ci sono suggerimenti e consigli su come creare set di dati per l’intelligenza artificiale. Nel mirino personaggi di ogni genere, dalle web star ai politici, fino ai presentatori televisivi. “I deepfake sono un po’ come quando nacque Photoshop all’inizio. Forse fanno paura, ma diventeranno la nuova normalità. Le persone si abitueranno e i risultati saranno utilizzati principalmente per la creatività, sbloccando possibilità che prima sarebbero state costose e impossibili per i singoli creatori”.
I rischi e le possibili conseguenze
Un ottimismo, quello degli sviluppatori di Fakeyou, non proprio condiviso dai legislatori tra Europa e Italia. Allo stato attuale, i deepfake, siano essi video o audio, rappresentano un rischio importante: possono, secondo una serie di studi sintetizzati in un articolo su The Conversation, amplificare il rischio di sfiducia nelle istituzioni e nei media e contribuire alla disinformazione.
Per questo motivo sono oggetto di uno sforzo normativo, soprattutto da parte dell’Unione Europea. Nel regolamento sull’intelligenza artificiale, l’UE definisce il deepfake come un sistema di intelligenza artificiale che genera o manipola immagini o contenuti audio o video che somigliano notevolmente a persone, oggetti, luoghi o altri enti o eventi esistenti e che potrebbero sembrare falsamente autentici o veritieri per una persona e indica l’obbligo di indicare la manipolazione del contenuto tramite l’IA per chi lo pubblica.
Ma quali sono i rischi attuali per chi pubblica un deepfake nel nostro Paese? Secondo un documento del Garante della Privacy, “quella fatta con i deepfake è una forma particolarmente grave di furto d’identità”. Il punto, secondo l’autorità per il diritto alla privacy nel nostro Paese, è che “le persone che appaiono in un deepfake a loro insaputa non solo subiscono una perdita di controllo sulla propria immagine, ma sono anche private del controllo sulle proprie idee e su i loro pensieri, che possono essere travisati in base ai falsi discorsi e ai comportamenti che esprimono nei video”.
