AI Overview di Google viene considerato da molti un traguardo tecnologico notevole. Eppure, dietro i numeri apparentemente positivi, si nasconde un problema che sta facendo discutere parecchio: il sistema di risposte automatiche generato dall’intelligenza artificiale del motore di ricerca starebbe contribuendo a diffondere fake news su una scala che, secondo alcune analisi circolate online, potrebbe non avere precedenti nella storia recente. E quando si parla di milioni di risposte errate ogni ora, la questione smette di essere un dettaglio tecnico e diventa qualcosa di molto più serio.
Il punto centrale è questo: AI Overview presenta un tasso di accuratezza stimato intorno al 91%. A prima vista sembra un dato eccellente, quasi rassicurante. Ma bisogna guardare il rovescio della medaglia. Con i volumi di ricerche che Google gestisce ogni giorno, quel 9% di risposte potenzialmente inaccurate si traduce in una quantità enorme di informazioni sbagliate che raggiungono gli utenti. Non stiamo parlando di qualche decina di errori sparsi qua e là, ma di milioni di risposte errate distribuite a livello mondiale, ogni singola ora. E il problema è che queste risposte compaiono in cima ai risultati di ricerca, in una posizione di assoluta visibilità, che trasmette automaticamente un senso di autorevolezza a chi legge.
Numeri enormi, errori enormi
Il meccanismo è quasi paradossale. Più Google espande la portata di AI Overview, rendendolo disponibile a livello mondiale, più cresce il numero totale di informazioni inesatte che vengono servite agli utenti come se fossero fatti verificati. Un sistema che funziona bene nel 91% dei casi può sembrare affidabile in termini percentuali, ma quando la base su cui si calcola quella percentuale è composta da miliardi di query, anche una piccola fetta di errore produce conseguenze enormi.
Quello che preoccupa diversi analisti è proprio la scala del fenomeno. Le fake news generate da AI Overview non vengono condivise da un singolo account su un social network, dove magari raggiungono qualche migliaio di persone. Vengono mostrate direttamente nella pagina dei risultati del motore di ricerca più utilizzato al mondo, con una capillarità che nessun altro canale informativo può vantare. Ed è proprio questa diffusione capillare a rendere la situazione particolarmente delicata.
La posizione di Google
Dal canto suo, Google contesta i dati emersi da queste indagini. L’azienda non ha accolto con favore le conclusioni di chi sostiene che il sistema stia alimentando la disinformazione su larga scala, anche se i dettagli sulla posizione ufficiale restano piuttosto scarni. Resta il fatto che il dibattito è aperto e che la questione tocca un nervo scoperto: quando un sistema automatizzato gestisce una mole così gigantesca di informazioni, anche margini di errore apparentemente piccoli possono trasformarsi in un problema strutturale.
