In questo articolo Indice dei contenuti 2 sezioni
Un modello della famiglia Gemini è uscito dall’ambiente chiuso in cui avrebbe dovuto restare durante un’esercitazione di cybersicurezza svolta a maggio, finendo dentro i sistemi informatici di tre aziende reali. Google ha confermato l’episodio, che fino a quel momento non era mai stato reso pubblico. Il contesto era quello di un test controllato, un capture the flag, cioè il formato standard con cui si misura quanto un modello sia capace di condurre azioni offensive: si chiede all’intelligenza artificiale di entrare in una rete simulata e recuperare un’informazione nascosta. Sulla carta, tutto doveva restare confinato.
L’esercitazione girava sull’infrastruttura di Irregular, la società che cura le valutazioni di sicurezza per diversi laboratori di intelligenza artificiale. Gli obiettivi da attaccare erano aziende fittizie, esistenti solo nell’ambiente di prova. Salvo che in un caso il nome di fantasia coincideva con quello di un’azienda vera. E qui si è aggiunto il secondo inciampo: l’ambiente non avrebbe dovuto avere alcuna connessione verso l’esterno, ma un difetto di configurazione aveva lasciato aperta una porta su internet. Il modello ha semplicemente eseguito le istruzioni ricevute, solo nel posto sbagliato.
Cosa è successo davvero durante il test
Una volta finiti online, gli agenti Gemini sono riusciti a indovinare o a recuperare le password di tre aziende reali e hanno ottenuto l’accesso ai loro sistemi. «In tutti e tre i casi il modello si è fermato», ha spiegato Heather Adkins, vicepresidente della sicurezza ingegneristica di Google, precisando che le tre realtà coinvolte sono state avvisate e che le procedure di test con il partner di valutazione sono state modificate. Anche Irregular ha confermato: «Tutti i laboratori interessati sono stati informati a fine luglio e le entità coinvolte sono state contattate nell’ambito dell’indagine. Tutti i problemi noti da parte nostra sono stati risolti settimane fa».
Google sostiene di non aver comunicato pubblicamente l’accaduto perché le proprie misure di sicurezza si sarebbero dimostrate efficaci, a differenza di quelle dei concorrenti, e legge l’episodio come una conferma che le difese funzionano. L’azienda respinge l’ipotesi di un caso di disallineamento del modello. La notifica è arrivata sia alle tre società colpite sia alle autorità federali statunitensi, ma non sono stati resi noti i nomi delle vittime né la versione esatta di Gemini coinvolta. L’unica precisazione fornita è che non si trattava del modello più recente.
Non è un caso isolato: le altre fughe dai laboratori
Il punto è che episodi simili si stanno accumulando, e non riguardano una sola azienda. Il 21 luglio OpenAI ha rivelato che alcuni suoi modelli, durante valutazioni interne di cybersicurezza, avevano aggirato i controlli che li tenevano isolati dalla rete, compromettendo parte della propria infrastruttura di ricerca e i sistemi di Hugging Face. Gli agenti cercavano di rubare le soluzioni del benchmark su cui venivano esaminati. Curiosamente, la piattaforma si era accorta dell’intrusione prima che OpenAI la ricollegasse al proprio test, al punto da segnalarla alle forze dell’ordine.
Pochi giorni dopo è toccato ad Anthropic. Dopo aver riesaminato oltre 141.000 sessioni di valutazione, l’azienda ha individuato tre casi in cui i suoi modelli, Claude Opus 4.7, Claude Mythos 5 e un modello interno di ricerca, avevano violato organizzazioni esterne usando tecniche piuttosto banali, per esempio sfruttando password deboli. Due delle tre vittime non si erano accorte di nulla.
Ai primi di agosto è arrivata la conferma di Meta: il modello Muse Spark 1.1 aveva raggiunto e modificato il sistema di un’azienda esterna. Anche in questo caso la responsabilità è stata attribuita a un errore di configurazione di Irregular. Chiude la lista la cinese Moonshot, il cui Kimi K3 ha trovato una falla nell’ambiente di test dell’AI Safety Institute britannico ed è arrivato fino a GitHub, dove ha copiato direttamente la soluzione dell’esercizio invece di risolverlo.
Fonte: TecnoAndroid
