La capacità dell’IA di generare immagini fasulle non è ancora una conoscenza mainstream. Un nuovo sito Web – ThisPersonDoesNotExist.com – offre un’istruzione rapida e persuasiva. Il sito è la creazione di Philip Wang, un ingegnere del software di Uber.
Utilizza una ricerca rilasciata lo scorso anno dal progettista di chip Nvidia per creare un flusso infinito di ritratti falsi. L’algoritmo dietro di esso viene addestrato su un enorme set di dati di immagini reali, quindi utilizza un tipo di rete neurale nota come una rete generativa avversaria (o GAN) per fabbricare nuovi esempi.
ThisPersonDoesNotExist si estenderà a breve
“Ogni volta che si aggiorna il sito, la rete genererà una nuova immagine del volto da zero”, ha scritto Wang in un post di Facebook. Ha aggiunto in una dichiarazione a Motherboard: “La maggior parte delle persone non capisce quanto saranno brave le IA a sintetizzare le immagini in futuro.”
L’approccio di Nvidia all’algoritmo, denominato StyleGAN, è stato reso di recente open source e si è dimostrato incredibilmente flessibile. Sebbene questa versione del modello sia addestrata a generare volti umani, può, in teoria, imitare qualsiasi fonte. I ricercatori stanno già sperimentando altri obiettivi.
Tuttavia, la potenza di algoritmi come StyleGAN solleva molte domande. Da un lato ci sono ovvie applicazioni creative per questa tecnologia. Programmi come questo potrebbero creare infiniti mondi virtuali e aiutare designer e illustratori.
Poi ci sono gli svantaggi. Come abbiamo visto nelle discussioni su deepfakes (che usano le GAN per incollare i volti delle persone sui video di destinazione), la capacità di manipolare e generare immagini realistiche su vasta scala avrà un enorme effetto. Tale software potrebbe anche essere estremamente utile per creare campagne di propaganda e influenza politica.