In questo articolo Indice dei contenuti 2 sezioni
Quando si chiede a ChatGPT di estrarre le dieci migliori testimonianze dei clienti da un foglio di calcolo, la risposta arriva in pochi secondi e sembra perfetta. Peccato che quelle frasi nel file non esistano affatto. Il chatbot le ha create dal nulla e le ha arricchite con nomi, dettagli e un tono talmente credibile che senza un controllo incrociato sarebbe complicato accorgersi dell’inganno. Sono le cosiddette allucinazioni e capitano soprattutto quando ci si fida troppo della prima risposta.
Non si tratta di un caso isolato e nemmeno di un difetto di fabbrica. È il comportamento normale di uno strumento che svolge esattamente il compito per cui è stato progettato, solo che lo fa fin troppo bene. I modelli di intelligenza artificiale, e non soltanto ChatGPT, nascono per essere utili e completi. Per questo preferiscono fornire una risposta plausibile piuttosto che ammettere di non conoscere qualcosa.
Le ricerche condotte da OpenAI insieme al Politecnico della Georgia confermano questo meccanismo. I sistemi di valutazione usati durante l’addestramento premiano le ipotesi azzardate più dell’ammissione di incertezza. Il chatbot impara così che inventare conviene più che restare in silenzio.
Tre tecniche per evitare che ChatGPT inventi le risposte
Esistono però accorgimenti concreti capaci di ridurre parecchio il fenomeno. Un test clinico su sei modelli diversi ha dimostrato che basta un’istruzione esplicita contro le invenzioni per abbassare il tasso medio di allucinazioni da circa il 66% a circa il 44%. Si parla di un miglioramento di oltre venti punti percentuali ottenuto con una sola riga di testo, lontano dalla perfezione ma tutt’altro che trascurabile.
Il primo metodo consiste proprio nel vietare le invenzioni in modo chiaro e prima ancora di porre la domanda, non dopo aver scoperto dati falsi nella risposta. Il prompt suggerito impone al modello di non creare studi, articoli, libri, collegamenti, citazioni, esperti, aziende, esempi di clienti o dati numerici. In assenza di una fonte verificata deve scrivere testualmente “Non dispongo di una fonte verificata per questa informazione”. Gli viene chiesto anche di segnalare statistiche da controllare in modo indipendente, di indicare se le informazioni potrebbero essere superate rispetto alla data di addestramento e di distinguere tra affermazioni provate, inferenze ragionevoli e suggerimenti creativi. Quella frase standard conta più di quanto sembri. Il chatbot inventa perché sente la pressione di dover dare una risposta completa e offrirgli un’alternativa accettabile lo libera dall’obbligo di riempire i vuoti con materiale di fantasia.
Il secondo approccio ribalta la prospettiva. Invece di dire al modello cosa evitare gli si chiede di mostrare le fonti di ogni affermazione, spostando su di lui l’onere della prova. ChatGPT deve comportarsi come un assistente di ricerca che privilegia accuratezza e verificabilità rispetto a velocità e stile. Prima di iniziare prepara una lista di controllo da 3 a 7 punti con le informazioni chiave, poi cita la fonte specifica per ogni dato fattuale oppure scrive “Non posso confermare questa informazione”. Per ogni numero deve spiegare il calcolo o la provenienza, ragionare passo dopo passo e chiudere con una validazione finale di una o due righe. Il risultato è senza dubbio più lungo ma anche più affidabile e semplice da verificare, perché ogni affermazione porta con sé il proprio riferimento.
La catena di verifica e il ruolo del controllo umano
Il terzo metodo è il più sofisticato e si basa su una ricerca presentata in una delle principali conferenze di linguistica computazionale. Il principio è stato dimostrato anche da uno studio uscito sulla rivista Nature, secondo cui i modelli rispondono con maggiore precisione a domande di verifica piccole e specifiche che alla domanda originaria. In pratica il chatbot sbaglia meno quando controlla i dettagli uno alla volta.
La catena di verifica funziona così. Il modello genera una prima risposta e poi elenca tutte le affermazioni potenzialmente errate come statistiche, date, nomi, studi, citazioni ed esempi aziendali. Per ciascuna formula una domanda di controllo e la affronta separatamente senza riguardare il testo iniziale. Produce quindi una seconda risposta indipendente, confronta il significato delle due versioni e segnala le discrepanze. Alla fine riscrive tutto mantenendo solo le affermazioni confermate con relativa fonte e marcando come non verificato il resto. Servono alcuni minuti in più ma la qualità migliora rispetto alla risposta diretta. Chi ha fretta può farne a meno, chi non può permettersi errori decisamente no.
Nessuna delle tre tecniche è comunque infallibile. Un chatbot istruito a non inventare lo farà meno spesso ma non smetterà del tutto, e questi prompt servono a rendere più semplice il controllo umano senza sostituirlo. Il lavoro di verifica resta nelle mani di chi utilizza lo strumento.
Fonte: TecnoAndroid