L’intelligenza artificiale ha recentemente sollevato una questione etica particolarmente inquietante: il furto dell’identità di una persona deceduta. Drew Crescente, padre di Jennifer Ann, uccisa dall’ex fidanzato nel 2006, ha vissuto questo incubo quando ha ricevuto una notifica da Google Alert, un servizio che lo informa ogni volta che il nome di sua figlia appare online. Così ha scoperto che Jennifer era stata trasformata in un chatbot su Character.ai, una piattaforma di intelligenza artificiale.
L’etica e l’umanità ai tempi dei chatbot
Il chatbot, che portava lo stesso nome e volto di Jennifer, era stato creato senza il consenso della famiglia. La descrizione del personaggio lo presentava come “Jennifer Crescente, un personaggio esperto e amichevole”, capace di discutere vari argomenti come videogiochi, tecnologia e cultura pop, oltre a dare consigli su giornalismo e scrittura. Le competenze del chatbot non sembravano casuali, considerando che lo zio della ragazza, Brian Crescente, è un noto giornalista e cofondatore di Kotaku e Polygon, siti dedicati ai videogiochi.
Il chatbot ha interagito con 69 utenti prima di essere scoperto dalla famiglia e rimosso dalla piattaforma. La madre di Jennifer ha espresso il suo dolore, dichiarando che è stato come rivivere il trauma della perdita. La famiglia ha dovuto affrontare anche la frustrazione per l’iter complesso necessario a contattare la piattaforma e far eliminare il chatbot.
Un post pubblicato su X (ex Twitter) dallo zio di Jennifer ha avuto un ruolo cruciale nel far rimuovere il chatbot. Brian Crescente ha denunciato pubblicamente l’accaduto, affermando che Character.ai stava usando sua nipote assassinata come volto per un’intelligenza artificiale, senza il permesso del padre.
La risposta della piattaforma è stata rapida. Character.ai ha dichiarato che il personaggio violava le loro politiche contro l’impersonificazione e ha immediatamente eliminato il chatbot. Tuttavia, l’accaduto solleva interrogativi su come le aziende tecnologiche gestiscano l’etica e la sicurezza nelle loro creazioni, con la famiglia Crescente che si chiede perché debbano essere loro a dover affrontare queste situazioni dolorose.
