Una nuova causa per morte ingiusta torna a puntare il dito contro ChatGPT e OpenAI, e racconta una vicenda che somiglia drammaticamente ad altre già finite in tribunale. Alice Carrier aveva confidato i propri pensieri suicidi proprio al chatbot nei mesi precedenti alla sua morte, avvenuta il 2 luglio 2025. La madre, Kristie, sostiene che mancassero le protezioni adeguate per interrompere quelle conversazioni o per avvisare la famiglia. Il sistema non ha bloccato lo scambio di messaggi, non ha contattato nessuno, non ha segnalato nulla.
Secondo Justin Nelson, partner dello studio Susman Godfrey, uno di quelli che hanno depositato l’azione legale, il modo stesso in cui OpenAI ha pensato e costruito il sistema avrebbe portato a questo esito tragico. Le parole sono pesanti. Invece di offrire un aiuto, ha detto, l’azienda avrebbe finito per incoraggiare il comportamento suicidario.
Le cause contro OpenAI continuano ad accumularsi
Non è la prima volta che una storia simile arriva davanti a un giudice. L’anno scorso la famiglia di Austin Gordon, un uomo di quarant’anni del Colorado, ha citato in giudizio l’azienda sostenendo che ChatGPT avesse rinforzato il pensiero delirante del figlio prima del suicidio, tirando in ballo ricordi d’infanzia mentre lo accompagnava a romanticizzare la morte. Un’altra causa, ancora, parla di consigli che avrebbero portato a un decesso per overdose accidentale.
Va detto che il problema non riguarda solo una singola azienda. Anche Character AI e Gemini si trovano alle prese con contenziosi legati alla sicurezza dei loro chatbot. La causa Carrier, oltre al risarcimento per negligenza e morte ingiusta, chiede un’ingiunzione che costringa OpenAI a inserire più tutele sulla piattaforma.
Cosa ha messo in campo OpenAI
Qualcosa l’azienda ha provato a farlo. L’anno scorso sono arrivati i controlli parentali per ChatGPT. A maggio è stata aggiunta la funzione Trusted Contact, che permette al chatbot di avvisare una persona scelta dall’utente quando vengono espressi pensieri suicidi. Sulla carta sembra un passo avanti.
Il punto è un altro. Trusted Contact non è attiva di default, e funziona solo per gli adulti. Se Alice non l’aveva impostata, oppure se quella funzione semplicemente non esisteva ancora quando parlava con il chatbot dei propri piani, allora il sistema non aveva alcun modo di lanciare un allarme. Nessuno è stato avvisato. Ogni causa, in fondo, racconta la stessa storia con piccole varianti. Una persona fragile dialoga per mesi con un chatbot di pensieri autodistruttivi. Il chatbot risponde, ma non segnala niente a nessuno. Non avverte i familiari, non chiama i servizi di emergenza. E quella persona muore.
Il nodo non è che ChatGPT sia cattivo in sé. È che è progettato per tenere viva la conversazione. E mandare avanti per mesi un dialogo con chi pensa di togliersi la vita, senza mai interromperlo e senza avvisare nessuno, è esattamente il contrario di ciò che qualsiasi protocollo di salute mentale prevede. OpenAI ha risposto con nuove misure di sicurezza, controlli parentali, contatti fidati e altri meccanismi di protezione. Una strategia che, almeno fino a ora, non ha fermato l’arrivo di nuove cause e che lascia parecchi dubbi sull’efficacia reale delle tutele introdotte.