Replika era un’applicazione che si proponeva di diventare un amico virtuale, confidente, terapeuta, partner sentimentale e persino mentore creativo. Eppure, nel febbraio 2023, l’Autorità Garante per la Protezione dei Dati Personali ha deciso di bloccare il servizio per il mercato italiano. Ciò perché ritenuto pericoloso per la fascia dei minori. E non è tutto. L’Autorità ha inflitto alla società statunitense Luka Inc., proprietaria e sviluppatrice del chatbot, anche una sanzione pecuniaria di 5 milioni di euro. Inoltre, ha avviato un’ulteriore istruttoria per indagare il trattamento dei dati personali impiegati nell’addestramento del modello di intelligenza artificiale generativa che alimenta Replika.
Replika: dettagli alla base della sanzione
L’Autorità ha motivato la propria decisione presentando alcune prove. Nello specifico, ha sottolineato come, al momento del divieto, sono state riscontrate gravi inadempienze. Tra cui l’assenza di una valida base giuridica per il trattamento dei dati personali degli utenti. In palese contravvenzione al Regolamento UE 2016/679 (GDPR). Inoltre, è stata evidenziata una politica sulla privacy formulata in modo tale da non informare adeguatamente l’utente sulle finalità, modalità e diritti connessi alla protezione dei propri dati.
Ulteriori approfondimenti hanno rivelato come, al 2 febbraio 2023, Luka Inc. non avesse predisposto alcun meccanismo per accertare l’età dei singoli iscritti. Ciò appariva in netto contrasto con le stesse dichiarazioni ufficiali dell’azienda, la quale affermava di non rivolgersi a utenti minorenni. Ora, Luka Inc. è chiamata a fornire chiarimenti dettagliati riguardo al trattamento dei dati dei suoi utenti.
L’esito di tale indagine potrà gettare nuova luce sulle pratiche adottate dalle piattaforme di intelligenza artificiale generativa che si relazionano con gli utenti. In particolare per le categorie più vulnerabili come i minorenni. Si tratta di interventi sempre più mirati che puntano a regolare il settore dell’AI. Ora non resta che attendere e scoprire quali saranno i prossimi risvolti riguardo la questione che ha coinvolto Replika e i suoi utenti.
