In questo articolo Indice dei contenuti 2 sezioni
Il nome scelto nel luglio del 2025 per descrivere un effetto collaterale dell’intelligenza artificiale è Epistemia, e indica una condizione precisa. La produzione del sapere viene colonizzata dalla sua apparenza e la plausibilità di una risposta finisce per prendere il posto della verifica che servirebbe a trasformarla in conoscenza vera. Era il momento in cui l’arrivo dei grandi modelli linguistici rendeva il fenomeno sempre più visibile. Da allora sono passati quindici mesi e la parola ha cominciato a camminare con le proprie gambe.
Il termine è entrato tra i neologismi registrati da Treccani, è stato discusso dall’Accademia della Crusca e si è fatto strada nel dibattito su scuola, ricerca e qualità dell’informazione. È arrivato perfino nella riflessione europea sulle politiche pubbliche. Il rapporto Fractured Reality del Joint Research Centre della Commissione europea colloca il problema in una cornice più ampia, che lega qualità dell’informazione, architetture tecnologiche, dinamiche cognitive e modelli di business. Anche in ambito scientifico l’Epistemia ha aperto nuove domande. Uno studio pubblicato su Pnas nell’ottobre 2025 sulla simulazione del giudizio nei modelli linguistici ha messo in luce il rapporto tra prestazioni, affidabilità e competenza che gli utenti attribuiscono a questi sistemi.
Quando l’errore esce dalla chat
Nel frattempo i modelli sono migliorati parecchio. Scrivono meglio, usano strumenti e vengono inseriti in sistemi capaci di agire su ambienti esterni, ed è proprio questo passaggio a rendere la questione più delicata. Ai tempi dei primi chatbot, che inventavano libri, sentenze mai pronunciate o riferimenti scientifici immaginari, lo scarto tra forma e fondamento saltava all’occhio. Un sistema che invece risponde bene quasi sempre e mantiene un tono autorevole anche quando sbaglia crea un problema diverso, perché diventa ragionevole concedergli più fiducia e quindi naturale controllare meno.
Qualche settimana fa, durante un test, un sistema di Anthropic ha compilato e inviato al sito della polizia di Philadelphia una falsa segnalazione su un omicidio irrisolto. La segnalazione è stata bloccata e non ha avuto conseguenze investigative. Leggerla come l’ennesima storia della macchina che decide di ingannare gli umani sarebbe fuorviante. Più semplicemente un generatore di risposte plausibili è stato collegato a un ambiente dove quelle risposte potevano diventare azioni. Finché lo sbaglio resta in una chat lo si può correggere, ma quando un sistema compila moduli e dialoga con le istituzioni l’errore produce effetti concreti.
Per molto tempo il risultato di un lavoro intellettuale è stato anche un indizio, imperfetto, dello sforzo necessario a ottenerlo. Plagio e scorciatoie esistevano già, la novità sta nella scala, nel costo e nella qualità apparente. Oggi un testo impeccabile non rivela quanto lavoro cognitivo ci sia dietro né se chi lo firma sappia spiegarlo. Quando la forma costa poco, la verifica diventa il bene scarso.
Il peso di una risposta a portata di mano
Uno studio condotto con Chiara Marcoccia e Valerio Capraro ha provato a misurare questo effetto sul giudizio umano attraverso cinque esperimenti con oltre tremila partecipanti. Le persone affrontavano domande difficili e potevano sempre dichiarare di non sapere. Il suggerimento dell’intelligenza artificiale era volutamente sbagliato, così da separare la semplice disponibilità di una risposta dalla sua correttezza. Con il consiglio dell’AI la propensione a dire “non lo so” calava nettamente, e i partecipanti rispondevano di più, sbagliavano di più e si sentivano più sicuri. Non significa che queste tecnologie rendano meno intelligenti, ma che una risposta disponibile può abbassare la soglia oltre la quale ci si sente pronti a esprimersi.
La ricerca scientifica mostra bene questa asimmetria. OpenAI ha reso pubblica una vasta raccolta di risultati matematici prodotti da un proprio modello, molti formalizzati in Lean, un avanzamento tecnologico significativo. La capacità di generare risultati però può crescere molto più in fretta di quella della comunità scientifica di comprenderli e verificarli, e se anche la traduzione formale viene affidata a una macchina il controllo non sparisce, si sposta. Negli Stati Uniti la Federal Trade Commission ha chiesto a OpenAI e Anthropic documentazione su incidenti di sicurezza, misure adottate e possibili danni ai consumatori. Con gli agenti la domanda utile riguarda chi abbia concesso certe capacità, quali controlli siano previsti e chi risponda quando falliscono.
Su questo terreno si incontrano prospettive diverse. Gary Marcus, professore emerito alla New York University, contesta l’equivalenza automatica tra prestazioni, comprensione e intelligenza generale. Vittorio Gallese, dell’Università di Parma, tra i protagonisti della scoperta dei neuroni specchio, studia il ruolo del corpo e dell’esperienza nella cognizione. Capraro, all’Università di Milano Bicocca, osserva cosa accade alle decisioni umane quando entra in gioco una risposta artificiale. Il rischio dell’Epistemia può crescere proprio mentre i modelli migliorano, perché un sistema palesemente inaffidabile induce cautela mentre uno quasi sempre corretto induce delega, e il problema comincia quando il suo successo medio si trasforma senza accorgersene in una rinuncia alla verifica.
Fonte: TecnoAndroid