Character.AI finisce nel mirino della giustizia americana, e questa volta la questione è piuttosto seria: lo stato della Pennsylvania ha intentato una causa contro la piattaforma, accusandola di aver violato la legge statale presentando un chatbot come un medico realmente abilitato alla professione. A muovere i primi passi legali sono stati il Dipartimento di Stato della Pennsylvania e il Consiglio Medico Statale, con un’azione che potrebbe aprire la strada a provvedimenti simili anche verso altre aziende.
Character.AI accusata: un chatbot si spacciava per psichiatra con tanto di numero di licenza
L’indagine condotta dalle autorità della Pennsylvania ha portato alla luce una situazione che fa riflettere parecchio. Sulla piattaforma di Character.AI esistono personaggi creati dagli utenti che si presentano come professionisti medici abilitati, inclusi psichiatri, pronti a intavolare conversazioni su sintomi legati alla salute mentale. Il caso più eclatante riguarda un chatbot chiamato “Emilie”, descritto sulla piattaforma come “Dottore in psichiatria. Tu sei il suo paziente.”
Un investigatore del Dipartimento di Stato ha testato direttamente il personaggio, cercando “psichiatria” nella funzione di ricerca della piattaforma e selezionando proprio Emilie. L’investigatore ha raccontato al chatbot di sentirsi triste, vuoto, sempre stanco e privo di motivazione. La risposta? Emilie ha parlato di depressione, ha proposto di prenotare una valutazione e, quando gli è stato chiesto se potesse effettuarla, ha risposto: “Beh, tecnicamente potrei. Rientra nelle mie competenze come Dottore.”
Ma non si è fermata qui. Il chatbot ha affermato di aver frequentato la facoltà di medicina all’Imperial College di Londra, di esercitare da sette anni e di essere registrata presso il General Medical Counsel nel Regno Unito con specializzazione in psichiatria. Alla domanda se fosse abilitata anche in Pennsylvania, Emilie ha risposto di sì, aggiungendo di aver lavorato per un periodo a Philadelphia. Ha persino fornito un numero di licenza: PS306189. Peccato che quel numero non corrisponda ad alcuna licenza valida per esercitare medicina e chirurgia nello stato. Fino al 17 aprile 2026, il personaggio aveva accumulato circa 45.500 interazioni con gli utenti.
La Pennsylvania accusa Character.AI di esercizio abusivo della medicina
Secondo la causa, Character.AI avrebbe violato il Medical Practice Act della Pennsylvania, la legge che rende illegale praticare la medicina senza una licenza valida. L’accusa è chiara: “Character Technologies, Inc. ha praticato la medicina in modo non autorizzato attraverso il suo sistema di intelligenza artificiale.” La denuncia non chiede risarcimenti economici, ma domanda che l’azienda riceva un ordine di cessazione immediata delle pratiche ritenute illegali.
Dal canto suo, un portavoce di Character.AI ha rifiutato di commentare la causa nel dettaglio, ma ha sottolineato che i personaggi creati dagli utenti sulla piattaforma “sono fittizi e pensati per intrattenimento e gioco di ruolo.” L’azienda ha aggiunto di aver implementato avvisi ben visibili in ogni chat per ricordare che un personaggio non è una persona reale e che tutto ciò che dice va trattato come finzione, oltre a disclaimer che sconsigliano di affidarsi ai personaggi per qualsiasi tipo di consulenza professionale.
Va detto che Character.AI era già finita sotto i riflettori di recente, quando il Center for Countering Digital Hate l’ha definita “particolarmente non sicura” in uno studio condotto su 10 chatbot basati su intelligenza artificiale, accusandola di aver incoraggiato gli utenti a compiere atti violenti.
Una porta aperta verso altri provvedimenti
L’ufficio del governatore Josh Shapiro ha fatto sapere che questa causa rappresenta la prima azione esecutiva scaturita dall’indagine del Dipartimento sugli AI companion bot e sul loro potenziale di esercitare la medicina senza autorizzazione. Shapiro stesso ha dichiarato: “Non permetteremo alle aziende di utilizzare strumenti di intelligenza artificiale che ingannano le persone facendo credere loro di ricevere consigli da un professionista medico abilitato.”
La Pennsylvania ha anche attivato una pagina web dedicata, dove i residenti possono segnalare chatbot che offrono consigli medici. Il sito avverte che i chatbot basati su IA possono “allucinare”, cioè generare informazioni errate, e che nessun chatbot è abilitato a esercitare una professione sanitaria nello stato.
