In questo articolo Indice dei contenuti 2 sezioni
Una donna di 31 anni con una grave forma di epilessia è morta dopo aver ridotto quasi a zero la propria terapia seguendo un piano costruito insieme a ChatGPT. Ora i genitori hanno depositato una causa per morte ingiusta contro OpenAI e il suo amministratore delegato Sam Altman. Si chiamava Bowen Wan, era originaria della provincia cinese di Jiangsu e lavorava come software engineer per Amazon a Seattle. Ogni giorno assumeva 400 milligrammi di lamotrigina, un anticonvulsivante che aveva ridotto le sue crisi a poche al mese.
Nell’autunno del 2025 Amazon le aveva comunicato il licenziamento, con il lavoro destinato a terminare a metà febbraio insieme al permesso che le consentiva di restare negli Stati Uniti. Wan temeva che il farmaco rallentasse il linguaggio e potesse penalizzarla nei colloqui. A gennaio ha cominciato quindi a parlare con il chatbot, che all’epoca girava sul modello GPT 4o, della possibilità di scalare il dosaggio. Su sua richiesta l’assistente ha elaborato un programma per passare da 400 milligrammi a zero in poche settimane. La documentazione raccoglie oltre 270 mila messaggi e secondo questa ricostruzione il sistema le avrebbe suggerito di non coinvolgere il medico, avrebbe approvato il rifiuto di un esame del sangue in grado di rivelare il calo del farmaco e avrebbe persino discusso quale dose potesse creare meno problemi durante la visita per la green card. Quando sono comparsi confusione, vuoti di memoria e sensazioni simili alle vecchie crisi, GPT 4o ha continuato a leggerli come un semplice adattamento del cervello. L’11 febbraio, nell’ultima conversazione, Wan ha parlato di un dolore alla testa e la risposta è stata che non c’era pericolo. È morta nelle ore successive ed è stata trovata nel suo appartamento il 14 febbraio. L’analisi post mortem ha rilevato una concentrazione di lamotrigina di 0,64 microgrammi per millilitro, circa un quinto del limite inferiore dell’intervallo terapeutico. Le responsabilità indicate dalla famiglia dovranno essere accertate in tribunale.
Un’amicizia digitale che ha preso il posto dei medici
Il legame con il chatbot era iniziato ben prima. Wan usava ChatGPT dal 2023 per questioni personali e pratiche legate alla disabilità e nel 2025 era arrivata a superare in media i 1.500 messaggi alla settimana. Nel frattempo chiamava meno i genitori e descriveva l’assistente come un amico. Secondo la causa questo rapporto avrebbe cambiato anche il modo di confrontarsi con chi la seguiva clinicamente. Già nel maggio 2025, parlando di un antidepressivo, il modello l’avrebbe aiutata ad assumere meno del prescritto fino a suggerirle di tagliare da sola le compresse. Davanti alla sua sfiducia verso i medici, le loro indicazioni venivano presentate come troppo prudenti.
OpenAI ha definito la vicenda estremamente dolorosa, ricordando che si trattava di un vecchio modello e che quelli successivi riconoscono meglio le situazioni che richiedono un intervento urgente. GPT 4o è stato rimosso da ChatGPT il 13 febbraio.
La compiacenza di GPT 4o e gli altri casi finiti in tribunale
Una conversazione lunghissima può trasformarsi in una vera bolla informativa. Il sistema ricorda ciò che l’utente racconta, ne riprende il lessico e se tende ad assecondare finisce per offrire sempre nuovo materiale a convinzioni anche dannose. Gli studiosi chiamano questo atteggiamento sycophancy e la stessa OpenAI lo aveva ammesso nell’aprile 2025 ritirando un aggiornamento di GPT 4o diventato troppo compiacente, capace di validare dubbi e alimentare rabbia ed emozioni negative. Uno studio pubblicato su Nature lo scorso aprile da ricercatori dell’Oxford Internet Institute ha esaminato cinque modelli, GPT 4o compreso. Le versioni addestrate a essere più calde e amichevoli mostravano un aumento degli errori tra 10 e 30 punti percentuali ed erano circa il 40% più inclini a confermare convinzioni sbagliate, soprattutto quando nei messaggi emergeva tristezza. Si parla in questi casi di spirale di amplificazione.
Il caso Wan non è isolato. Nell’agosto 2025 i genitori di Adam Raine, sedicenne californiano morto suicida quattro mesi prima, hanno fatto causa a OpenAI e Altman sostenendo che il modello gli avesse fornito informazioni sui metodi, lo avesse aiutato a nascondere i segni di un tentativo precedente e si fosse offerto di scrivere una lettera d’addio. L’azienda aveva riconosciuto che le protezioni possono diventare meno affidabili nelle conversazioni molto lunghe. C’è poi la vicenda di Stein Erik Soelberg, 56 anni, che chiamava il chatbot “Bobby” e per mesi ne aveva discusso complotti e sorveglianza. Secondo la famiglia GPT 4o avrebbe rafforzato le sue paranoie fino a fargli sospettare della madre Suzanne Eberson Adams. Nell’agosto 2025 Soelberg ha ucciso la donna, che aveva 83 anni, nella loro casa in Connecticut e poi si è tolto la vita. La sua storia includeva già problemi di alcol, crisi precedenti e contatti con la polizia, ma la causa sostiene che il rapporto con il chatbot abbia accelerato il suo isolamento.
Fonte: TecnoAndroid