Il fenomeno dei deepfake ha raggiunto un livello tale che persino Taylor Swift ha deciso di passare alle vie legali per proteggere sé stessa. La popstar ha depositato tre richieste di registrazione del marchio con l’obiettivo di tutelare la propria immagine e la propria voce. Una delle domande riguarda una fotografia ormai celebre, quella in cui la cantante tiene in mano una chitarra rosa durante un concerto dell’Eras Tour. Le altre due, invece, sono richieste di “trademark sonori” legate a due frasi che le appartengono in modo inequivocabile: “Hey, it’s Taylor Swift” e “Hey, it’s Taylor”.
La tempistica non è casuale. I deepfake generati dall’intelligenza artificiale continuano a proliferare sui social media, e il rischio che l’immagine di chiunque venga sfruttata per creare contenuti falsi è sempre più concreto. All’inizio di aprile, un uomo dell’Ohio è stato il primo a essere condannato in base a una nuova legge statunitense che criminalizza questo tipo di contenuti. Un segnale importante, certo, ma che evidentemente non basta a scoraggiare chi utilizza volti e voci di personaggi famosi per scopi fraudolenti.
Un rapporto dell’azienda Copyleaks, specializzata nel rilevamento di contenuti generati dall’IA, ha documentato come l’immagine di Taylor Swift e di altre celebrità sia stata recentemente usata per costruire pubblicità ingannevoli. I ricercatori hanno scovato una serie di video sponsorizzati su TikTok che sembrano mostrare Swift, Kim Kardashian, Rihanna e altri personaggi mentre promuovono servizi descritti come “potenzialmente fraudolenti o dannosi”. I filmati utilizzano voci dal suono realistico e filtri pensati per mascherare i difetti tipici delle immagini generate dall’intelligenza artificiale.
Taylor Swift e le truffe con i deepfake delle celebrità
Le inserzioni mostrano Taylor Swift e le altre vittime in contesti che richiamano interviste reali: red carpet, talk show, situazioni familiari per il pubblico. Solo che invece di rispondere a domande, le celebrità generate dall’intelligenza artificiale promuovono programmi a premi in cui gli utenti di TikTok verrebbero pagati per fornire feedback sui contenuti proposti.
In uno di questi annunci, una versione deepfake di Taylor Swift, costruita a partire da filmati manipolati di una sua apparizione al Tonight Show di Jimmy Fallon dello scorso ottobre, dice: “Questa settimana mi stavo informando sul tema del comportamento digitale e mi sono imbattuta in una funzione di test chiamata TikTok Pay”. La finta Swift spiega che il programma è in fase di lancio limitato e invita gli spettatori a verificare se possono accedervi, chiudendo con un “Se la pagina vi si apre, non pensateci troppo”.
Ovviamente chiunque clicchi viene accettato in automatico. Gli annunci reindirizzano verso un servizio di terze parti che, nonostante mostri nome e logo di TikTok, sembra essere stato realizzato tramite il cosiddetto vibe coding, ovvero interamente programmato da un’AI attraverso la piattaforma Lovable, il cui marchio compare sia nella pagina che nell’url. A quel punto, all’utente viene chiesto di inserire nome e dati personali.
Un contesto di truffe in crescita sui social media
Quello che gli inserzionisti intendano fare con tutte le informazioni raccolte attraverso queste campagne non è del tutto chiaro, ma le truffe di questo tipo sono estremamente diffuse. Nella settimana del 20 aprile, la Consumer Federation of America ha citato in giudizio Meta, accusando il colosso tech di aver ingannato gli utenti di Facebook e Instagram sui propri sforzi per contrastare queste inserzioni, e di aver anzi guadagnato lasciandole proliferare. Il 27 aprile, la Federal Trade Commission ha riferito che le truffe sui social media sono complessivamente in aumento e che quelle su Facebook sono responsabili delle perdite economiche maggiori.
Taylor Swift non ha parlato pubblicamente delle motivazioni alla base delle richieste di registrazione del marchio. Ad ogni modo il danno reputazionale che deepfake ingannevoli e sempre più sofisticati possono arrecare a un brand da miliardi di euro è diventato ormai impossibile da ignorare.
