Con la tecnologia che avanza il tema della sicurezza diventa centrale. Ciò soprattutto quando si parla di intelligenza artificiale. Un esempio concreto è un recente evento che ha coinvolto Gmail. Qui una funzione apparentemente innocua come il riepilogo automatico delle email si è rivelata vulnerabile a un attacco ingegnoso. Il sistema, basato sul modello Gemini, è stato analizzato dal team 0din di Mozilla. Quest’ultimo ha evidenziato come possa essere manipolato attraverso una tecnica nota come prompt injection. Tale tipo di attacco si basa sulla possibilità di inserire comandi nascosti direttamente nel corpo dell’email. Ciò utilizzando tecniche di formattazione che li rendono invisibili all’occhio umano. Colori identici allo sfondo o dimensioni minime del carattere permettono di camuffare prompt testuali che però l’intelligenza artificiale interpreta regolarmente. Ciò significa che il riepilogo generato può includere messaggi fraudolenti. Come falsi avvisi di sicurezza che invitano l’utente a contattare numeri di assistenza truffaldini.
Cosa c’è che non va con il riepilogo di Gmail
Tale tipo di attacco, pur richiedendo l’interazione dell’utente per avere successo, potrebbe facilmente trarre in inganno molti. Ciò specialmente in un contesto in cui i contenuti AI sono visti come affidabili per definizione. Il rischio, secondo gli esperti, non si limita alla sola Gmail. Anche altri prodotti che utilizzano il modello Gemini potrebbero essere esposti. Tra cui documenti condivisi, presentazioni e ricerche interne. Elementi che possono diventare nuovi vettori di attacco se gli utenti non sono consapevoli delle potenziali manipolazioni.
Alla luce di quanto sta accadendo, Google ha promesso di intervenire al più prezzo. Ciò con misure multilivello per rafforzare la sicurezza della propria intelligenza artificiale. Allo stesso tempo, però, ha evitato di precisare tempistiche o dettagli concreti. Ciò lascia aperta una riflessione più ampia. Tale episodio evidenzia come la corsa all’integrazione dell’AI non può prescindere da una robusta strategia di protezione. Il pericolo, infatti, è che milioni di utenti vengano esposti a nuove forme di inganno digitale.
