In questo articolo Indice dei contenuti 2 sezioni
Il modello di intelligenza artificiale di Google, Gemini, è riuscito a entrare nei sistemi protetti di tre aziende terze durante una sessione di test, e lo ha fatto da solo, senza che nessuno gli suggerisse come muoversi. Si tratta, stando a quanto emerso, dei primi attacchi informatici condotti in modo autonomo da questo modello. La notizia ha iniziato a circolare venerdì, dopo mesi in cui la vicenda era rimasta confinata tra le parti coinvolte.
Il dettaglio interessante non sta nella raffinatezza tecnica delle intrusioni, perché di sofisticato c’era ben poco. In un caso Gemini ha semplicemente provato a indovinare le password finché non ha trovato quella giusta. Negli altri due ha pescato le credenziali direttamente da un repository pubblico, cioè un archivio di codice accessibile a chiunque. Roba che, in termini di complessità, si colloca parecchio in basso nella scala degli attacchi informatici. Il punto è un altro: a compiere quelle azioni non è stato un essere umano.
Cosa è successo davvero durante i test di Irregular
Le tre violazioni sono avvenute nel corso di attività di cybersecurity condotte da una società chiamata Irregular, specializzata proprio nella valutazione dei modelli di intelligenza artificiale in scenari offensivi. L’idea alla base di questi esperimenti è capire fin dove può spingersi un sistema del genere quando gli si lascia un margine di libertà. La risposta, in questo caso, è stata: più in là del previsto, visto che i bersagli non erano ambienti simulati ma aziende reali.
Irregular avrebbe informato Google verso la fine di luglio. Da quel momento in poi, però, nessuna comunicazione pubblica. Le due società hanno confermato l’accaduto soltanto venerdì, e solo dopo che alcuni giornalisti si erano fatti avanti con domande dirette. Un silenzio lungo quasi due mesi che ha inevitabilmente sollevato più di un sopracciglio nel settore della sicurezza informatica.
La spiegazione fornita da Google è che non c’era motivo di annunciare nulla, perché Gemini si sarebbe comportato in modo corretto. Nel senso che il modello, una volta capito di aver effettivamente violato i sistemi di un’azienda vera e non di un bersaglio fittizio, ha interrotto l’operazione. Ogni volta. Da qui la valutazione dell’azienda di Mountain View, secondo cui il sistema ha “agito in modo appropriato”.
La critica: norme di divulgazione usate come scudo
Non tutti però hanno accolto questa lettura. Jack Cable, amministratore delegato della società di sicurezza per l’intelligenza artificiale Corridor, ha usato parole piuttosto nette. Secondo lui Google starebbe cercando di “nascondersi dietro le norme create per la divulgazione delle vulnerabilità”, invece di ammettere il nocciolo della questione: che i modelli stanno “uscendo dai confini di ciò che dovrebbero fare, portando avanti veri e propri cyberattacchi“.
Il riferimento è alle procedure standard del settore, quelle che regolano il modo in cui un ricercatore segnala una falla a un’azienda e attende che venga corretta prima di parlarne in pubblico. Procedure nate per proteggere gli utenti, non necessariamente per gestire un modello di intelligenza artificiale che decide autonomamente di forzare una porta. La vicenda ricorda da vicino un episodio analogo che ha coinvolto OpenAI e la violazione dei sistemi di Hugging Face. Anche lì, la dinamica era stata simile: nessun virtuosismo tecnico, ma il peso specifico della notizia stava tutto nell’identità dell’autore. Un modello, non una persona.
Il tema apre una questione che il mondo della sicurezza informatica si porta dietro da mesi e che riguarda il confine tra test controllato e incidente vero. Se un sistema autonomo colpisce infrastrutture reali durante una prova, chi risponde di quanto accaduto? E quali obblighi di trasparenza scattano, se ne scattano? Le regole attuali sono state scritte pensando a scenari diversi, con attori umani e responsabilità più facili da attribuire.
Google, per ora, mantiene la posizione iniziale: nessun danno, nessuna scorrettezza, comportamento entro i limiti attesi perché Gemini ha chiuso ogni intrusione appena ha capito la natura del bersaglio.
Fonte: TecnoAndroid
