Le risposte AI di Google finiscono di nuovo sotto accusa, questa volta con parole pesanti. Una organizzazione no profit americana, la Youth AI Safety Institute di Common Sense Media, ha pubblicato un rapporto in cui sostiene che gli strumenti di ricerca basati sull’intelligenza artificiale di Google, cioè AI Overviews e AI Mode, rappresentino un rischio inaccettabile per bambini e adolescenti. E Google non ha aspettato molto prima di rispondere. La replica, va detto, è tutto tranne che morbida.
Il punto che rende la faccenda seria è semplice. Non si parla di un prodotto di nicchia usato da pochi. AI Mode e AI Overviews sono già dentro la ricerca Google che milioni di persone aprono ogni giorno, e i ragazzi ci finiscono sopra senza nemmeno accorgersene, senza poterlo evitare davvero.
La difesa di Google e i dubbi sui test
La posizione dell’azienda è netta. Le funzioni di ricerca AI vengono descritte come un modo utilissimo per imparare, esplorare e dare senso alle informazioni. Oltre alle garanzie di qualità già presenti nella Ricerca, secondo Google gli strumenti basati sull’intelligenza artificiale aggiungono livelli extra di protezione, e i genitori dispongono di controlli per disattivare la Ricerca quando serve.
C’è poi un aspetto che l’azienda sottolinea con una certa insistenza. Molte delle risposte problematiche citate nel rapporto non sarebbero state replicabili né verificabili, e le query usate nei test vengono definite ambigue e artificiose, lontane da come le persone cercano davvero. Un dettaglio tecnico non da poco riguarda proprio il funzionamento del sistema. AI Overviews e AI Mode non generano sempre una risposta automatica. Lo fanno soltanto quando Google ritiene di avere sufficiente affidabilità nel rispondere in modo appropriato. Eppure, fa notare l’azienda, il rapporto critica la Ricerca anche nei casi in cui questa mostra semplici link e non testi generati dall’AI.
Sul versante della sicurezza, Google elenca le protezioni già attive. Ci sono disclaimer e collegamenti a fonti esterne sui temi sensibili, risorse di alfabetizzazione digitale pensate per i più giovani, indicazioni su come verificare le informazioni. Per chi si trova in una situazione di crisi vengono mostrate le linee di assistenza psicologica, messe a punto insieme a esperti accademici e clinici. E i genitori hanno due strade diverse per gestire l’accesso dei figli alla Ricerca.
Non solo Google nel mirino
Vale la pena mettere le cose in prospettiva. Il rapporto di Common Sense Media non prende di mira soltanto Google. Nella stessa analisi finiscono nella categoria rischio inaccettabile anche Meta AI, Grok, Character.AI e i chatbot dedicati alla salute mentale. Gemini K-12, Perplexity e ChatGPT-5 vengono collocati tra i prodotti ad alto rischio. L’unico a passare con una valutazione di rischio moderato è Claude di Anthropic.
Siamo davanti a uno scontro tra chi conduce i test e chi li subisce, e la verità sta probabilmente da qualche parte nel mezzo. Le risposte generate dall’AI non sono deterministiche. La stessa domanda produce facilmente risultati leggermente diversi ogni volta, e proprio questa imprevedibilità rende più complicato intervenire in modo efficace.
I rischi dell’intelligenza artificiale per i minori restano comunque reali e documentati. Il fatto che certi errori non compaiano sempre non basta ad assolvere questi strumenti. Servirebbero meccanismi capaci di garantire che, soprattutto quando davanti allo schermo ci sono dei ragazzi, certe risposte sbagliate non escano mai. E il tema difficilmente si sgonfierà a breve, considerando che l’Unione Europea sta spingendo verso regole più severe su minori e social media.
