Clonare la voce di qualcuno può significare anche rubargli parte della personalità e manipolarla
Un avvenimento scioccante ha colpito la Pikesville High School, nella contea di Baltimora, con l’arresto di Dazhon Darien, un insegnante di educazione fisica, accusato di utilizzare un servizio di clonazione vocale basato sull’intelligenza artificiale per incastrare il Preside Eric Eiswert.
Creare una falsa personalità con l’IA
Le autorità hanno svelato che Darien avrebbe diffuso una registrazione alterata sui social media, attribuendo al Preside commenti razzisti e antisemiti, generati attraverso un’algoritmo AI non specificato. In maniera piuttosto sciocca, Darien avrebbe utilizzato proprio le risorse informatiche della scuola per produrre l’audio incriminato.
L’arresto di Darien ha portato a ulteriori accuse, poiché è emerso che il Preside Eiswert stava indagando su presunte irregolarità finanziarie nella gestione dei fondi scolastici, coinvolgendo presumibilmente anche Darien. Questo sembra essere stato il motivo alla base della creazione dell’audio fasullo.
Questo evento solleva interrogativi sulla crescente facilità con cui l’intelligenza artificiale mette a disposizione strumenti per manipolare informazioni. L’incidente ha anche portato OpenAI a rivalutare la pubblicazione della sua piattaforma Voice Engine, progettata per clonare voci in pochi secondi.
Il pericolo dei deepfake e delle fake news
Ma la clonazione vocale è solo un esempio della portata di questa tecnologia. La facilità con cui è possibile creare immagini false, testi contraffatti e persino video manipolati solleva serie preoccupazioni riguardo alla diffusione delle fake news e dei deepfake.
Il caso sottolinea la necessità di una maggiore consapevolezza e regolamentazione riguardo all’uso dell’intelligenza artificiale in contesti sensibili come l’istruzione e la comunicazione pubblica. Mentre l’IA offre indubbi vantaggi, è fondamentale bilanciare l’innovazione tecnologica con una rigorosa responsabilità etica e legale per garantire un utilizzo sicuro e responsabile.
Questo incidente serve da monito per coloro che operano nel campo dell’istruzione e della tecnologia: l’intelligenza artificiale è una forza potente, ma deve essere gestita con attenzione e responsabilità per evitare abusi e danni alla società e all’individuo.
