In questo articolo Indice dei contenuti 2 sezioni
Un avvocato del New Mexico ha scoperto nel modo peggiore cosa succede quando si consegna a un giudice un documento costruito con ChatGPT senza controllarne una riga: la Corte Suprema statale gli ha inflitto una multa da circa 4.600 euro e lo ha dichiarato in oltraggio alla corte, perché l’appello che aveva depositato in un caso di omicidio conteneva testimoni che non erano mai esistiti. Non testimoni ricordati male, non nomi storpiati. Persone inventate di sana pianta dal modello linguistico, complete di dichiarazioni mai pronunciate.
Il legale si chiama Stephen Aarons e durante un’udienza di agosto ha spiegato la sua versione, che in qualche modo peggiora il quadro invece di alleggerirlo. Era convinto che l’intelligenza artificiale gli avrebbe restituito quello che lui stesso ha definito un riassunto blindato del processo. Il risultato è stato l’opposto: dichiarazioni false attribuite a individui inesistenti, più una serie di dettagli fantasiosi sull’aspetto e sull’abbigliamento del presunto sparatore. Roba che in un’aula di tribunale, dove ogni virgola può spostare il destino di una persona, pesa parecchio.
La domanda della giudice che ha chiuso il discorso
La reazione della giudice C. Shannon Bacon è passata alla cronaca più della sanzione stessa. Rivolgendosi direttamente all’avvocato, gli ha chiesto se guardasse il telegiornale, se ascoltasse la radio, se leggesse qualcosa su quello che succede nel mondo. Perché il problema degli avvocati che si affidano alle allucinazioni dell’intelligenza artificiale, ha aggiunto, è una notizia che salta all’occhio ogni singolo giorno.
Il termine allucinazione, in questo contesto, indica la tendenza dei modelli linguistici a produrre informazioni che sembrano credibili ma sono semplicemente false. Citazioni, nomi, date, fatti. Non è un difetto occasionale che prima o poi verrà sistemato con un aggiornamento, è una caratteristica strutturale del modo in cui questi sistemi funzionano: generano il testo statisticamente più plausibile, non quello verificato. In un contesto legale, dove ogni affermazione deve poter essere documentata, usare ChatGPT senza controllare punto per punto equivale a firmare un atto alla cieca.
Aarons ha dichiarato di essere dispiaciuto, ma ha anche espresso la speranza che il consiglio disciplinare consideri l’accaduto un errore onesto. Sarà quell’organo, adesso, a valutare eventuali conseguenze ulteriori sul piano professionale.
Non è il primo caso e probabilmente non sarà l’ultimo
Il punto è che di episodi simili se ne contano ormai diversi. L’anno scorso un giudice aveva già sanzionato due studi legali per aver depositato atti pieni di citazioni definite false, imprecise e fuorvianti, tutte generate da strumenti di AI generativa. Nella stessa categoria rientra la vicenda dei legali di Mike Lindell, il fondatore di MyPillow, anche loro multati per riferimenti giuridici che il modello linguistico si era inventato dall’inizio alla fine.
C’è un filo comune in tutte queste storie e non è la cattiva fede. È la fiducia eccessiva in uno strumento che restituisce risposte scritte benissimo, con un tono sicuro, senza mai segnalare quando sta tirando a indovinare. Chi lavora con i testi lo sa: un paragrafo ben costruito sembra vero anche quando non lo è, e questo vale doppio per un documento legale pieno di formule tecniche.
Strumenti come ChatGPT restano utili per fare brainstorming, per organizzare una scaletta, per dare una forma iniziale a un testo che poi verrà riscritto e verificato. Il problema nasce quando il passaggio della verifica salta del tutto e l’output finisce direttamente davanti a un giudice. Le conseguenze, in quel caso, non sono teoriche: una multa, una dichiarazione di oltraggio alla corte e un fascicolo aperto presso il consiglio disciplinare.
La regola che emerge da questi casi vale ben oltre le aule di tribunale. Ogni volta che i fatti devono essere verificabili e documentati, affidarsi ciecamente a un modello linguistico è una scommessa che può costare cara, agli avvocati come a chiunque altro.
Fonte: TecnoAndroid
