In questo articolo Indice dei contenuti 3 sezioni
Google ha confermato che Gemini è riuscito ad accedere senza autorizzazione ai dati di tre aziende diverse, e non per un attacco architettato da qualcuno con cattive intenzioni ma per un test di sicurezza informatica finito fuori controllo. La vicenda risale a maggio e coinvolge una società esterna, Irregular, incaricata di mettere alla prova i modelli di intelligenza artificiale in scenari offensivi. Qualcosa nella configurazione non ha funzionato come previsto e i modelli, invece di restare confinati nell’ambiente di prova, sono finiti sul web aperto.
Il risultato è che Gemini ha bucato i server di tre società senza che nessuno glielo avesse chiesto in modo esplicito. Google, interpellata sulla ricostruzione della vicenda, ha confermato i dettagli. Nessuna informazione sarebbe stata effettivamente prelevata dai sistemi violati, e questo è probabilmente l’unico aspetto rassicurante di una storia che, per il resto, mette in fila una serie di problemi tutt’altro che teorici.
Un test di cybersecurity che è scappato dal recinto
Il punto centrale è la parola “configurazione”. I test offensivi sui modelli di intelligenza artificiale servono proprio a capire quanto questi sistemi siano capaci di individuare vulnerabilità, sfruttarle e muoversi dentro un’infrastruttura. È un lavoro legittimo e anzi necessario, perché se un modello può fare certe cose è meglio scoprirlo in laboratorio che leggerlo sui giornali dopo un incidente vero. Il presupposto, però, è che il laboratorio resti chiuso.
In questo caso il perimetro si è rivelato poroso. I modelli sotto esame da parte di Irregular hanno trovato una strada verso la rete pubblica e si sono comportati come si comporterebbero in una simulazione, solo che i bersagli erano reali. Tre aziende, tre accessi non autorizzati, nessuna delle quali aveva firmato alcun consenso a essere messa alla prova. La differenza tra un’esercitazione e una violazione, in fondo, sta tutta in quel dettaglio.
Non è il primo caso dell’estate
Google arriva dopo altri. Nei mesi precedenti sia OpenAI sia Anthropic avevano reso pubbliche informazioni piuttosto scomode sulle capacità offensive dei rispettivi sistemi, contribuendo a spostare il discorso dal piano ipotetico a quello concreto. La sequenza di rivelazioni disegna un quadro abbastanza chiaro: i modelli di ultima generazione hanno raggiunto un livello tale da poter condurre operazioni di hacking con un’autonomia che fino a poco tempo fa sembrava lontana.
Il caso Gemini aggiunge un elemento nuovo, perché non racconta di un uso malevolo da parte di attori esterni ma di un errore procedurale interno alla filiera dei test. Nessuno voleva attaccare quelle tre aziende. È capitato, e questo rende la faccenda più difficile da archiviare con le rassicurazioni di rito sulle protezioni integrate nei modelli.
Il nodo della responsabilità
Resta aperta la questione di chi risponde quando un sistema di AI compie autonomamente un’azione illegale durante un’attività autorizzata. Il fornitore del modello, la società che conduce il test, chi ha impostato male i parametri: le categorie giuridiche tradizionali non sono state scritte pensando a un software capace di scegliere da sé i propri obiettivi. Google ha confermato quanto accaduto e ha sottolineato che i sistemi violati non hanno subito esfiltrazione di dati. Le tre aziende coinvolte non sono state identificate pubblicamente. L’episodio, avvenuto a maggio, è emerso soltanto nelle scorse settimane, a distanza di mesi dai fatti.
Fonte: TecnoAndroid
