In questo articolo Indice dei contenuti 2 sezioni
Un avvocato che usa ChatGpt per preparare un ricorso in un processo per omicidio e finisce per citare testimoni che non sono mai esistiti. È successo a Santa Fe, nel New Mexico, dove il penalista Stephen Aarons ha depositato documentazione piena di nomi falsi, dichiarazioni mai rese e rapporti di polizia mai scritti. Quando la Corte Suprema dello Stato ha iniziato a controllare, il quadro è emerso in tutta la sua gravità e la difesa del legale è stata piuttosto semplice: la colpa sarebbe del chatbot, lui non sapeva nulla del rischio di allucinazioni dell’intelligenza artificiale.
Il termine indica quella tendenza dei sistemi di AI a generare informazioni inventate ma formulate in modo convincente, tanto da sembrare autentiche a una lettura distratta. Ed è esattamente quello che è finito in un atto processuale destinato a una corte suprema. Aarons stava lavorando al ricorso di Oscar Renee Sandoval, condannato l’anno scorso all’ergastolo per l’omicidio della madre dei suoi figli. L’imputato si era dichiarato non colpevole e adesso il suo caso passerà a un legale assegnato d’ufficio.
Il giudice non ha creduto alla buona fede
La Corte Suprema del New Mexico ha dichiarato Aarons colpevole di oltraggio alla corte per non aver verificato l’accuratezza di quanto depositava. Nelle motivazioni si parla apertamente di «testimonianze false rese da testimoni interamente inventati» e si aggiunge che il legale «ha dimostrato mancanza di rimorso e interesse per il proprio cliente». È arrivata una multa di circa 4.300 euro e la trasmissione degli atti all’ordine degli avvocati del New Mexico, che dovrà valutare eventuali provvedimenti disciplinari.
Nella sua ricostruzione, Aarons ha spiegato di aver usato ChatGpt di OpenAI per riassumere gli atti del processo, senza rendersi conto di quanto il sistema potesse distorcere i fatti. «Sono pentito, ma spero che il consiglio disciplinare prenda in considerazione il fatto che si è trattato di un errore in buona fede», ha dichiarato, definendo la vicenda «una lezione per tutti i professionisti che si affidano a questa tecnologia potente, ma talvolta instabile».
Nell’udienza del 21 agosto ha raccontato di aver caricato nel chatbot una trascrizione generata dal computer insieme ad altro materiale sul caso, convinto che ne sarebbe uscita «una sintesi infallibile». I giudici, però, hanno accolto la spiegazione con evidente scetticismo. «Avvocato, guarda il telegiornale? Ascolta la radio? Legge qualcosa su ciò che accade nel mondo?», ha domandato il giudice C. Shannon Bacon, ricordando che il problema dei legali che inciampano nelle allucinazioni dell’AI «è una notizia in prima pagina ogni singolo giorno». Difficile, in effetti, sostenere di non saperne nulla nel 2026, soprattutto per chi esercita una professione dove ogni citazione va controllata.
Un problema che ormai si ripete, anche in Italia
Il rapporto tra avvocati e intelligenza artificiale è da tempo materia di discussione, e non solo negli Stati Uniti. Quella legale è una delle professioni più esposte ai cambiamenti portati da questi strumenti, ma anche una di quelle in cui gli usi impropri emergono con maggiore frequenza. Decine di legali sono già stati sanzionati per aver depositato documenti costruiti con l’aiuto dell’AI e contenenti riferimenti giurisprudenziali citati in modo errato.
Un episodio italiano è arrivato a marzo, a Siracusa, dove un avvocato ha portato quattro precedenti attribuiti alla Cassazione a sostegno delle proprie tesi. Il controllo del giudice ha rivelato che nessuna di quelle sentenze era pertinente. Esistevano davvero, ma riguardavano questioni completamente diverse, quindi non potevano reggere le argomentazioni presentate.
Il fenomeno non si limita ai singoli professionisti. A New York lo studio legale Sullivan & Cromwell, nome tra i più noti del settore, ha dovuto scusarsi con un giudice federale per un atto depositato in tribunale che conteneva citazioni e riferimenti sbagliati o del tutto inesistenti, prodotti dall’intelligenza artificiale. Gli errori li aveva scovati la controparte, e lo studio ha ammesso l’uso improprio della tecnologia. In tutti questi casi il filo conduttore è lo stesso: è saltata la verifica umana sui contenuti generati dalla macchina.
Fonte: TecnoAndroid
