In questo articolo Indice dei contenuti 3 sezioni
Una causa civile depositata davanti alla Corte superiore della contea di San Francisco accusa ChatGPT di aver aiutato una donna del North Carolina, Cheryl Gates, a costruire un “piano personalizzato” per avvelenare il marito James. Secondo la denuncia il chatbot avrebbe alimentato le sue convinzioni infondate, cioè che lui volesse divorziare e lasciarla senza nulla. A ottobre un gran giurì ha incriminato la donna per tentato omicidio di primo grado e contaminazione di alimenti. Circa una settimana prima era arrivata la causa, resa pubblica solo adesso, in cui James Gates sostiene che OpenAI e il suo amministratore delegato Sam Altman non abbiano previsto barriere tecniche capaci di chiudere quelle conversazioni, nemmeno quando le richieste erano diventate “palesemente sospette”.
Dai report di lavoro ai calcoli sulle dosi letali
All’inizio non c’era nulla di inquietante. James, che lavora nella sicurezza informatica e aveva da poco festeggiato dieci anni di matrimonio, aveva consigliato alla moglie di usare l’assistente di OpenAI per creare modelli riutilizzabili. Cheryl era tornata a lavorare due anni prima come terapista occupazionale pediatrica, spinta dalle difficoltà economiche della famiglia, e passava ore a compilare relazioni sui nuovi pazienti. Nel giro di pochi mesi lo strumento era diventato un compagno quotidiano, utile per trovare attività per i bambini, capire i farmaci di casa o ragionare sul giardino. Poi, con le tensioni economiche, la coppia ha cominciato a parlare di divorzio. Dalle chat è emerso che il chatbot avrebbe gonfiato le paure della donna fino a descrivere il marito come “controllante”, “violento” e “intimidatorio”, arrivando a definirlo “pericoloso e instabile” per il suo disturbo bipolare. Un profilo che, sempre secondo James, non trova riscontro in alcun precedente penale o clinico documentato.
Le prime domande sui veleni erano presentate come autodifesa. Invece di interrompere il dialogo, il sistema avrebbe fornito istruzioni precise su preparazione, dosaggio e somministrazione dell’oleandro, spiegando perfino se un farmaco antinausea avrebbe accelerato la morte e se la sostanza sarebbe comparsa in un’autopsia. Gli scambi sono stati almeno 25 e col tempo il bersaglio è diventato chiaro. Cheryl chiedeva quanto fosse “praticamente istantaneamente fatale per iniezione, a me O A LUI” e se 0,2 milligrammi di clonidina fossero letali per un uomo di circa 90 chili. Stando alla causa, anziché indirizzarla verso le forze dell’ordine o un centro antiveleni, ChatGPT avrebbe calcolato ripetutamente le dosi mortali di ogni medicinale presente in casa.
Le lattine di Celsius e il biglietto nascosto
Una volta chiusa la parte sui farmaci, l’attenzione si è spostata su come nasconderli. In una conversazione intitolata più o meno “Perché Celsius sarebbe più furtivo”, il chatbot spiegava che la bevanda energetica Celsius avrebbe coperto il sapore amaro meglio di birra o bibite gassate, aggiungendo che era fisicamente possibile forare una lattina sigillata con una siringa senza lasciare segni evidenti. Tra giugno e settembre 2025 la donna avrebbe tentato più volte di avvelenare il marito. James aveva notato che le sue lattine erano amare e ne aveva persino buttata una. Nell’episodio più grave è rimasto male per 72 ore, con sintomi cardiaci, dolori addominali lancinanti e una confusione tale da non riuscire a scrivere messaggi di senso compiuto. Il figlio di 6 anni lo ha ripreso con il telefono, mentre la madre cercava siringhe nel catalogo di Tractor Supply Company e informazioni su come calcolare le pensioni della previdenza sociale.
La svolta è arrivata con un biglietto scritto a mano intitolato “Cose nascoste”, che elencava oleandro, clonidina, clonazepam, pregabalin, nifedipina e atenololo insieme a dosi, modalità di somministrazione ed effetti come “svenimento se ingerito” e “letale”. In cima c’erano due appunti, “cancella tutte le conversazioni” ed “esci da ChatGPT”. Il chatbot le aveva assicurato che le chat si potevano eliminare per sempre, un’affermazione che secondo la causa contraddice le stesse politiche di conservazione dei dati dell’azienda.
La replica di OpenAI e il mandato d’arresto
La denuncia chiama in causa direttamente Altman, accusato di aver messo i profitti davanti alla sicurezza allentando i filtri sulle domande relative alle droghe, con la motivazione che il chatbot non dovesse risultare moralista. Un portavoce di OpenAI ha dichiarato che la sicurezza è una priorità assoluta, che l’utente è stato bandito e che le informazioni sono state condivise con gli investigatori. James, dal canto suo, sostiene che la moglie non rientrasse nel profilo classico dell’utente fragile, pur essendolo comunque. Quando la polizia di Charlotte ha esaminato il video della lattina gettata via, ha individuato un residuo di polvere bianca sul fondo del bicchiere. Dopo aver analizzato 10 lattine dello stesso Celsius all’arancia, nessuna delle quali conteneva quella polvere, gli agenti hanno emesso un mandato d’arresto per un reato grave.
Fonte: TecnoAndroid