Gemini viene sfruttato per accessi indesiderati alle smart home

Di recente, un gruppo di ricercatori provenienti dall’Università di Tel Aviv, dal Techion e dalla società SafeBreach ha mostrato come Google Gemini può essere manipolato con un semplice invito al calendario digitale. Tale metodo di attacco, silenzioso e poco appariscente, sfrutta una vulnerabilità nella modalità di interpretazione del linguaggio da parte del modello AI, mettendo a rischio i dispositivi smart home ed anche la privacy degli utenti. Al centro dell’attacco c’è un meccanismo all’apparenza innocuo. Ovvero un evento inserito in Google Calendar contiene istruzioni nascoste che Gemini è indotto a eseguire in automatico. Quando l’utente chiede all’intelligenza artificiale di riepilogare gli appuntamenti della settimana, il modello AI interpreta e applica comandi nascosti. Tra cui accendere o spegnere luci, aprire finestre, avviare chiamate Zoom o controllare la caldaia.

Gemini controllato da un invito al calendario: ecco i dettagli

Lo studio, Invitation Is All You Need, analizza quattordici diversi scenari di abuso. I quali coinvolgono l’app web e mobile di Gemini. La portata degli attacchi varia dal controllo remoto dei dispositivi domestici alla sottrazione di dati sensibili da eventi, email e documenti condivisi. Il vero problema è che tali attacchi non sfruttano errori o vulnerabilità software. Si fondano sulla capacità del modello AI di eseguire comandi nascosti all’interno di testi apparentemente legittimi.

Google è stata subito avvertita di quanto accaduto. A tal proposito, l’azienda ha lavorato insieme ai ricercatori per sviluppare contromisure. Inoltre, ha implementato classificatori rapidi per riconoscere comandi sospetti e una gestione più rigida degli URL potenzialmente pericolosi. Infine, vengono inserite anche conferme esplicite all’utente per azioni sensibili come l’apertura di link o il controllo di dispositivi smart. Nonostante tali interventi, gli esperti sottolineano come gran parte degli scenari analizzati presenti ancora rischi critici.

Quanto accaduto evidenzia quanto sia fondamentale rivedere con attenzione i permessi concessi agli assistenti virtuali, limitare l’integrazione tra AI e dispositivi domestici. Oltre che disattivare automatismi non indispensabili o non verificati e mantenere i propri sistemi sempre aggiornati.