Ammettere di non sapere qualcosa è diventato difficile, e la colpa potrebbe essere proprio della intelligenza artificiale. Un gruppo di ricercatori ha messo insieme dei numeri interessanti su questo fenomeno, e il quadro che ne esce fa riflettere: avere a portata di mano un assistente digitale, anche quando sbaglia le risposte, spinge le persone a smettere di riconoscere i limiti della propria conoscenza. Quel semplice “non lo so”, uno degli atti più onesti che esistano, sta lentamente sparendo dalle conversazioni.
Cosa dice davvero lo studio
La ricerca porta la firma di Chiara Marcoccia dell’École Normale Supérieure di Parigi, Walter Quattrociocchi dell’Università Sapienza di Roma e Valerio Capraro dell’Università di Milano-Bicocca. Hanno coinvolto 3.100 partecipanti per capire una cosa apparentemente semplice: la sola presenza di un chatbot cambia il momento in cui decidiamo di sapere abbastanza per rispondere?
Riconoscere di non sapere qualcosa è più utile di quanto sembri. Gli autori la chiamano sospensione del giudizio, cioè la capacità di frenare prima di rispondere quando non si ha certezza. È un’abilità mentale che evita di agire spinti da convinzioni sbagliate, e i dati suggeriscono che stiamo perdendo l’allenamento. Per isolare l’effetto, il team ha costruito apposta domande quasi impossibili da azzeccare per una macchina. Dettagli visivi molto specifici tratti da film, tipo il colore delle divise in “Sognando Beckham” oppure il veicolo guidato da un personaggio in un altro film. Informazioni così di nicchia che su internet praticamente non compaiono, per cui il modello usato nell’esperimento, Step 3.5 Flash, sbagliava quasi sempre. I partecipanti potevano consultare l’IA se volevano, ma avevano sempre la possibilità di lasciare la domanda in bianco o ammettere di non conoscere la risposta.
I numeri che fanno rumore
Nel gruppo senza alcun assistente, il 44% delle persone ha riconosciuto di non sapere la risposta quando era il caso. Tra chi poteva chiedere aiuto alla macchina, quella percentuale è crollata al 3%. E anche le risposte corrette sono calate, dal 27% al 9%. In pratica la gente rispondeva di più, ma ci azzeccava molto meno. La cosa più curiosa è un’altra. Pur sbagliando di più, i partecipanti si sentivano più sicuri: la loro fiducia nelle risposte è passata dal 30% al 76%, quasi il doppio.
I ricercatori sospettavano che mettere in gioco dei soldi, premiando chi azzeccava e penalizzando chi sbagliava, potesse correggere il problema. Ha aiutato, sì, ma poco. Con incentivi economici la disponibilità ad ammettere di non sapere è salita dal 3% all’8%, e gli aciertos sono passati dal 9% al 16%. Gli autori si aspettavano che l’effetto dell’IA si indebolisse con il denaro di mezzo, invece i dati non lo hanno confermato. La spinta a fidarsi della macchina si è rivelata praticamente indipendente dall’incentivo economico. Capraro, coautore dello studio, ha spiegato che le persone “sono diventate molto peggiori” nelle prestazioni, con una precisione pari a un terzo rispetto al gruppo senza IA, ma alla fine “il doppio più sicure” delle proprie risposte. Per il ricercatore questa capacità di dire “non lo so” rappresenta niente meno che “il riconoscimento dei limiti della nostra stessa conoscenza”.
C’è poi un punto che preoccupa in modo particolare Capraro: l’effetto sui più piccoli. Gli adulti, ha detto, “hanno già un pensiero critico formato” prima dell’arrivo massiccio di questi strumenti. I bambini che crescono usando l’IA fin dall’inizio, invece, “rischiano di non sviluppare mai quella capacità basilare di mettere in dubbio una risposta”.