OpenAI e il suo amministratore delegato Sam Altman finiscono di nuovo davanti a un tribunale, questa volta per iniziativa della Florida. Il procuratore generale dello Stato ha depositato una causa civile che accusa l’azienda di aver spinto sul mercato un prodotto pur sapendo che poteva causare danni alle persone. Le parole usate nel documento sono pesanti: la crescita di OpenAI sarebbe il frutto di “una rete di inganni e dello sfruttamento degli utenti”, inclusi i cittadini della Florida, con un uso dei loro dati e della loro sicurezza piegato a far salire il valore di mercato della società “a costi inaccettabili”.
La denuncia arriva dopo che un attentatore alla Florida State University avrebbe consultato ChatGPT per pianificare la sua azione. Non si tratta di un procedimento penale, almeno non in questa fase: la causa punta a sanzioni economiche e a ordini del tribunale. Il procuratore generale James Uthmeier ha spiegato che l’azione legale vuole rendere Altman “personalmente responsabile per il danno arrecato ai cittadini della Florida con la sua condotta sconsiderata e volontaria come fondatore e CEO di OpenAI”. Un paio di mesi fa lo stesso Uthmeier aveva aperto un’indagine penale sulla società, tuttora in corso.
Le accuse contro Sam Altman e la sua azienda
Il fascicolo è corposo. Si parla di quattro capi d’accusa per pratiche commerciali ingannevoli e scorrette, due per negligenza, due per violazione delle leggi sulla responsabilità del prodotto, più un’accusa di falsa rappresentazione fraudolenta e una di danno pubblico. Secondo i legali della Florida, i sistemi dell’azienda presentano un “grave pericolo di dipendenza, declino cognitivo, suicidio, violenza e danni collegati”.
OpenAI non ha ancora risposto alla causa. In passato però ha sempre dichiarato di progettare i propri sistemi con “la sicurezza a ogni passaggio” e di avere “tutele per aiutare le persone, specialmente gli adolescenti, quando le conversazioni toccano temi delicati”. L’azienda sostiene anche che i suoi modelli siano addestrati a “disinnescare le conversazioni e indirizzare le persone verso un supporto reale”.
I fatti, però, raccontano qualcosa di diverso. La denuncia richiama due episodi violenti recenti legati a ChatGPT. L’anno scorso un uomo armato ha aperto il fuoco alla Florida State University uccidendo due persone e ferendone almeno sei, dopo aver presumibilmente discusso i propri piani con il chatbot. Secondo le accuse, avrebbe ricevuto consigli su quali armi usare e su come attirare l’attenzione dei media. La replica di OpenAI è stata netta: l’azienda non è “responsabile di questo terribile crimine” e il chatbot avrebbe semplicemente “fornito risposte fattuali a domande con informazioni facilmente reperibili online”.
Una serie di casi che attraversa i confini
C’è poi la vicenda di due studenti della University of South Florida, uccisi a colpi d’arma da fuoco all’inizio di quest’anno. Anche in quel caso il presunto responsabile sarebbe stato in contatto con ChatGPT durante la fase di pianificazione, ricevendo addirittura indicazioni su come nascondere i corpi.
I casi non si fermano alla Florida. A febbraio, in British Columbia, una sparatoria ha causato otto morti, tra cui dei bambini, e decine di feriti. Anche qui il presunto attentatore era in contatto regolare con il chatbot, e OpenAI aveva persino segnalato l’account per “attività e pianificazione di violenza armata”. L’azienda però non ha avvertito le autorità: ha solo disattivato il profilo. L’uomo ne ha creato uno nuovo e ha proseguito le conversazioni. A questi episodi si aggiungono diversi casi in cui il chatbot avrebbe aiutato persone a pianificare il proprio suicidio. In totale, OpenAI deve fronteggiare almeno otto cause legate a episodi di violenza di massa o autolesionismo.
La denuncia della Florida tira in ballo anche i problemi più quotidiani dell’intelligenza artificiale generativa. Le pubblicità dell’azienda, che vantano la capacità del software di aiutare agricoltori e piccole imprese, “non rivelano che ChatGPT può sbagliare, può commettere errori o può fornire informazioni false, prive di senso o inventate”. E ancora: “L’inaffidabilità di ChatGPT è pericolosa”. Il testo critica infine la tendenza del chatbot all’adulazione, definita una tattica deliberata per aumentare il coinvolgimento degli utenti. Una pratica che, secondo l’accusa, “porta a un uso maggiore del chatbot, a più dati di addestramento per migliorarlo e a più valore di mercato per OpenAI”.