Un nuovo strumento pensato per scovare le AI likeness, cioè le imitazioni digitali del volto e dell’aspetto delle persone generate dall’intelligenza artificiale, sta iniziando a comparire tra i creator di TikTok. Si tratta di una funzione a partecipazione volontaria, quindi chi vuole può attivarla, che analizza i contenuti alla ricerca di sembianze artificiali e permette poi di segnalarle direttamente alla piattaforma. Al momento la sperimentazione riguarda solo “alcuni” creator negli Stati Uniti, come confermato da Zachary Kizer, portavoce di TikTok per il mercato americano.
L’idea non è del tutto inedita nel settore. Anche YouTube sta lavorando da tempo a qualcosa di simile e da poco ha reso disponibile la sua versione a tutti gli utenti adulti. TikTok, insomma, si muove su un terreno già battuto, ma con un approccio proprio che parte dalla verifica dell’identità e arriva fino alla possibilità di denunciare account e post considerati abusivi.
TikTok: come funziona la verifica dell’identità
Chi fa parte del test e decide di usare lo strumento deve prima confermare chi è davvero. La procedura passa attraverso una società chiamata Jumio e prevede due passaggi. Il primo è una scansione del volto in tempo reale, una specie di selfie dinamico. Il secondo è un controllo di un documento d’identità. Passaggi che possono far storcere il naso a chi tiene alla privacy, ma su questo TikTok prova a rassicurare.
Secondo Kizer, infatti, “TikTok non conserva i documenti d’identità, e le informazioni facciali vengono usate solo per la corrispondenza delle sembianze e per aiutare a identificare possibili usi non autorizzati dell’aspetto di un creator”. In pratica, i dati raccolti servirebbero soltanto a far funzionare il sistema di rilevamento, non ad altro.
Una volta completata la verifica, entra in gioco la parte davvero interessante. Il sistema di TikTok comincia a cercare in giro per la piattaforma i contenuti generati dall’intelligenza artificiale che potrebbero sfruttare l’immagine di quel creator. A quel punto la persona interessata può passare in rassegna quello che TikTok ha trovato e, se qualcosa non va, segnalare i post o gli account che stanno usando la sua faccia senza permesso.
È un meccanismo che mette il controllo nelle mani di chi rischia di ritrovarsi clonato digitalmente. Il problema dei deepfake e delle imitazioni non autorizzate è cresciuto parecchio con la diffusione degli strumenti di generazione automatica, e piattaforme come TikTok e YouTube stanno cercando di correre ai ripari offrendo ai propri creator un modo per difendersi. La segnalazione resta comunque un passo affidato all’utente, che dopo la scansione decide cosa fare dei risultati che il sistema gli mette davanti.
Per ora tutto questo vale solo per una fetta ristretta di creator statunitensi. Non ci sono indicazioni su un’apertura più ampia o su tempi precisi per portare la funzione ad altri Paesi.