In questo articolo Indice dei contenuti 1 sezione
A volte anche Google sbaglia. E quando lo fa, l’errore può diventare molto serio. Non stiamo parlando di una data sbagliata o di una fonte poco aggiornata. Stavolta l’AI Overview, la nuova funzione di ricerca lanciata da Google nel 2024, ha confuso i dettagli di un disastro aereo. Un errore che ha dell’inquietante.
AI generativa, disinformazione e disastri aerei, un mix pericoloso
Cercando “incidenti che coinvolgono aerei Airbus”, un utente ha notato che il sistema AI attribuiva l’incidente del volo Air India 171 — 241 vittime a bordo e almeno 28 a terra — a un Airbus A330-243. In realtà, l’aereo coinvolto era un Boeing 787 Dreamliner. Non si tratta di un dettaglio da poco: le implicazioni industriali, tecniche e reputazionali di una simile confusione sono enormi.
L’errore è stato segnalato su Reddit e confermato da uno screenshot autentico. Altri utenti hanno fatto test simili e ottenuto risposte ancora più caotiche: a volte veniva indicato un Boeing, altre un Airbus, in alcuni casi un bizzarro mix di entrambi. Come è possibile? La risposta sta nella natura probabilistica dei modelli linguistici: l’AI non “capisce” davvero ciò che elabora. Semplicemente raccoglie segnali, li collega statisticamente, e costruisce un testo coerente… ma non necessariamente corretto.
Google ha rimosso la risposta e dichiarato che “il tasso di accuratezza di AI Overview è comparabile a quello dei featured snippet”. Ma questo è proprio il punto: uno snippet errato è facile da ignorare. Un riassunto in apertura, scritto con tono assertivo e autorevole, è molto più pericoloso. Soprattutto quando parla di tragedie reali.
Il problema è strutturale: le AI generative sono ottime a “scrivere bene”, ma non hanno senso critico. Possono sbagliare, e lo faranno ancora. Ma mentre l’errore umano è firmato, tracciabile, correggibile, quello dell’AI è spesso invisibile, distribuito, replicabile.
Il vero rischio è che inizi a sembrarci normale. Che “lo dice Google” basti. Che non ci chiediamo più da dove arrivino davvero le informazioni. E in quel momento, l’intelligenza artificiale non sarà solo uno strumento: sarà un filtro. Uno che, se non controllato, può distorcere anche la verità.
