Che l’intelligenza artificiale possa commettere errori è cosa nota, e lo stesso Gemini lo ricorda a ogni interazione. Ma c’è una bella differenza tra un piccolo scivolone e scambiare sistematicamente dei gatti per procioni. Eppure è esattamente quello che è successo a un utente australiano, che ha raccontato la sua esperienza decisamente surreale dopo aver integrato l’AI di Google nel proprio sistema di videosorveglianza domestica.
La storia ha del paradossale. L’utente aveva configurato tutto con cura: indirizzo dell’abitazione aggiunto su Google Maps, impostazioni di Google Home personalizzate al massimo, localizzazione attiva. Insomma, il sistema avrebbe dovuto sapere perfettamente dove si trovava la casa. E questo non è un dettaglio trascurabile, soprattutto quando si chiede all’intelligenza artificiale di identificare gli animali che si muovono davanti alle telecamere. In Australia, per intendersi, i procioni non esistono proprio.
Gatti, procioni e un chatbot che si contraddice
Ed è qui che la faccenda diventa quasi comica. Nonostante tutte le informazioni fornite, Gemini ha continuato imperterrito a etichettare i gatti del vicino come procioni. Un errore che non si è verificato una volta sola, ma in modo ripetuto e sistematico. Il bello è che, quando l’utente ha provato ad aprire il chatbot di Gemini per fare una semplice domanda sulla fauna australiana, l’AI ha risposto correttamente: sa benissimo che in Australia non ci sono procioni.
Quindi il problema non sta nella conoscenza di base del modello, ma nel modo in cui l’intelligenza artificiale elabora le immagini provenienti dalle telecamere di sorveglianza. È come se le due funzionalità vivessero in mondi separati, senza comunicare tra loro. Il riconoscimento visivo sembra procedere per conto suo, ignorando del tutto il contesto geografico che pure è stato impostato dall’utente.
Cosa racconta questa storia sull’AI nelle smart home
Questa vicenda, per quanto divertente, mette in luce un problema concreto. Quando si affida la sicurezza domestica all’intelligenza artificiale, ci si aspetta un livello di affidabilità almeno decente. E se Gemini scambia un gatto per un procione in un paese dove i procioni non esistono, viene spontaneo chiedersi quanto ci si possa fidare delle notifiche generate dal sistema. Un falso allarme su un animale domestico è una cosa. Ma se il modello confonde anche altre cose, la questione si fa più seria.
L’utente ha condiviso tutto su Reddit, dove il post ha generato parecchia discussione. D’altronde, il tema dell’affidabilità dei sistemi di riconoscimento basati su AI è sempre più attuale, soprattutto man mano che queste tecnologie entrano nelle case di milioni di persone. Il fatto che Gemini metta le mani avanti a ogni risposta, avvisando che potrebbe sbagliare, non basta a giustificare errori così evidenti, soprattutto quando tutte le informazioni necessarie per evitarli sono già a disposizione del sistema. La storia del gatto australiano scambiato per un procione resta lì, a ricordare che tra le promesse delle smart home potenziate dall’intelligenza artificiale e la realtà quotidiana c’è ancora un bel po’ di strada da fare.
