Sapevate che i serpenti sono mammiferi? E che se un gatto vi lecca la mano, sta valutando se siete buoni da mangiare? O che per far aderire meglio il formaggio alla pizza fatta in casa potete semplicemente aggiungere un po’ di colla, purché non tossica? No? Potete ringraziare la nuova intelligenza artificiale di Google integrata nel suo motore di ricerca per queste perle di “saggezza“.
Tra le altre notevoli assurdità prodotte dall’AI: Batman è un poliziotto perché collabora con il Commissario Gordon; l’ex presidente degli Stati Uniti James Madison si è laureato 21 volte; e un cane ha giocato professionalmente a basket (NBA), hockey (NHL) e football (NFL). In alcuni casi, come quello della colla sulla pizza, è stato persino possibile risalire alla fonte della disinformazione: un commento ironico pubblicato su Reddit dieci anni fa.
Google Search e le allucinazioni dell’AI
L’azienda di Mountain View, durante la conferenza I/O 2024, ha annunciato il lancio di AI Overviews, che integra l’intelligenza artificiale nel proprio motore di ricerca. È però passato poco tempo prima che emergessero i primi casi di “allucinazioni” dell’AI.
Non è certo la prima volta che l’intelligenza artificiale generativa sbaglia clamorosamente o inventa informazioni spacciandole per vere. Anche durante la dimostrazione di AI Overviews all’I/O, il software ha fornito una risposta discutibile, suggerendo di aprire lo sportello del rullino per riparare una fotocamera inceppata, senza menzionare che questa operazione va fatta al buio completo per non danneggiare le foto.
Google ha dichiarato chiaramente che AI Overviews è un prodotto sperimentale. Allo stesso tempo però non viene mai detto espressamente che l’informazione potrebbe essere falsa, imprecisa o fuorviante. Per quanto minima, questa imprecisione suscita preoccupazione man mano che l’intelligenza artificiale si diffonde e si integra nei prodotti e servizi di massa.
Google Search ha costruito la sua reputazione sulla sua affidabilità, e un’etichetta di avviso potrebbe non essere sufficiente a preservare questa reputazione. Parlando con The Verge, un portavoce di Google ha osservato che le inesattezze emergono solo in caso di richieste molto insolite e non rappresentano l’esperienza d’uso della maggior parte degli utenti.
In generale, si è ottimisti sul fatto che il progresso nel settore AI continuerà con lo stesso ritmo vertiginoso. Quanto sta accadendo con Google però evidenzia che nel mondo high-tech il progresso non è sempre lineare. Spesso i risultati immaginati non vengono mai raggiunti, almeno nel medio termine.