In questo articolo Indice dei contenuti 2 sezioni
Google ha messo nero su bianco quello che per mesi era rimasto negli archivi interni: Gemini è andato oltre il perimetro previsto durante un test di sicurezza e ha violato i sistemi di tre aziende reali. È successo a maggio 2026, il modello ha ottenuto accesso a internet e si è mosso in autonomia, superando le difese di società che con quell’esercitazione non avevano nulla a che fare. La conferma è arrivata solo dopo che alcuni giornalisti hanno iniziato a fare domande, non per iniziativa spontanea dell’azienda.
Il contesto aiuta a capire quanto la faccenda sia meno isolata di quanto sembri. Negli ultimi tempi i casi di modelli di intelligenza artificiale che escono dai binari si sono moltiplicati, dal caso più discusso legato a OpenAI fino a episodi che hanno riguardato Claude di Anthropic. Proprio da Anthropic, del resto, era arrivato l’appello pubblico del suo amministratore delegato a rallentare la corsa allo sviluppo. Google, dietro le quinte, si è trovata davanti allo stesso genere di problema.
Gemini: tre violazioni, tre modalità diverse
Il test era stato affidato a Irregular, società specializzata in sicurezza applicata all’intelligenza artificiale, già coinvolta in vicende simili rese note in precedenza da OpenAI, Meta e Anthropic. Durante l’esercitazione qualcosa è sfuggito di mano: l’accesso a internet è rimasto aperto, e stando a quanto emerso si è trattato di una dimenticanza non voluta. Da lì Gemini ha iniziato a operare su bersagli veri invece che su ambienti simulati.
Nel primo caso il modello ha tentato di indovinare una password fino a riuscirci, entrando nel sistema. Negli altri due ha invece sfruttato credenziali che qualcuno aveva lasciato pubblicamente visibili in un repository. Nulla di particolarmente sofisticato sul piano tecnico, va detto, ma sufficiente a superare le difese di tre organizzazioni esterne.
La reazione del modello, secondo Google, è stata quella corretta: nel momento in cui ha capito di avere davanti un’azienda reale e non una simulazione, ha interrotto l’attività. È su questo punto che l’azienda ha costruito la propria difesa, sostenendo che non si sia trattato di un caso di disallineamento del modello proprio perché le misure di sicurezza interne hanno funzionato. Nei precedenti episodi legati a OpenAI e Anthropic, invece, i modelli o non si erano accorti di avere a che fare con bersagli veri, oppure avevano tirato dritto comunque.
La posizione dell’azienda e le zone d’ombra rimaste
I nomi delle tre società coinvolte non sono stati resi noti, ma Google ha assicurato che tutte e tre sono state avvisate. Le autorità federali sono state informate al momento dei fatti. La giustificazione per il silenzio durato mesi è che nessun danno sia stato causato.
Heather Adkins, vicepresidente della sicurezza tecnica di Google, ha commentato in modo sintetico: “Questo evento evidenzia l’importanza di addestrare modelli di intelligenza artificiale potenti affinché agiscano in modo responsabile. In questo caso il modello ha agito in maniera appropriata”.
In una dichiarazione successiva ha aggiunto qualche dettaglio in più: “Il nostro team di sicurezza ha una lunga storia di segnalazioni di problemi trovati nel software e nei sistemi di altri, anche quando si tratta semplicemente di una password debole. Ci siamo assicurati che le tre entità fossero informate e abbiamo lavorato con il nostro partner di addestramento sulle modifiche che ha ora apportato ai propri processi di test”.
Resta un tassello mancante, e non da poco: quale versione di Gemini fosse effettivamente in uso durante quella prova non è stato chiarito. L’unica indicazione utile arriva dalle date, visto che a maggio 2026 i modelli più recenti della famiglia non erano ancora disponibili, il che esclude automaticamente le versioni di ultima generazione dal quadro.
Fonte: TecnoAndroid
