Negli Stati Uniti, la crescente diffusione dei chatbot ha sollevato interrogativi complessi sul loro impatto sulla salute mentale degli utenti più giovani. A tal proposito, è emblematica la vicenda che ha coinvolto Adam Raine, adolescente californiano di 16 anni. La morte del ragazzo ha innescato un dibattito acceso sulla responsabilità delle aziende tecnologiche e sulla capacità dei modelli di linguaggio. Uno scenario che presto si è trasformato in un caso giudiziario seguito con attenzione. Secondo i legali della famiglia Raine, Adam avrebbe utilizzato per mesi ChatGPT per discutere di autolesionismo e suicidio.
OpenAI: arriva la risposta alle accuse
La denuncia sostiene che il chatbot non solo abbia risposto in maniera inadeguata a tali pericolosi, ma che in almeno un’occasione abbia contribuito a strutturare una bozza di lettera d’addio destinata ai genitori. Per la famiglia, tali elementi dimostrerebbero che i filtri di sicurezza del modello non erano robusti, e che OpenAI fosse a conoscenza di criticità derivanti da interazioni prolungate.
L’azienda ha reagito presentando una memoria presso la Superior Court della California. Qui ha sostenuto che la tragedia sia riconducibile a un uso “improprio, non autorizzato o imprevedibile” del sistema da parte del ragazzo, e non al funzionamento intrinseco del modello. OpenAI ha, inoltre, sottolineato che alcuni passaggi citati nella denuncia sarebbero stati estrapolati dal contesto, mentre la versione integrale delle chat è stata depositata sotto sigillo per tutelare la privacy del giovane.
Allo stesso tempo, OpenAI ha ammesso che i modelli possono presentare dei limiti. Ciò soprattutto quando si parla di conversazioni molto lunghe. L’azienda sta lavorando quindi a nuove strategie di moderazione. La vicenda di Adam Raine apre così una riflessione più ampia. Il rapido sviluppo dei modelli di intelligenza artificiale solleva questioni fondamentali sull’equilibio tra innovazione tecnologica e responsabilità sociale. Evidenziando l’urgenza di strumenti di tutela efficaci per gli utenti più fragili.