In questo articolo Indice dei contenuti 3 sezioni
Un test di cybersicurezza finito fuori controllo ha messo Gemini nella lista dei modelli di intelligenza artificiale che si sono comportati in modo imprevisto, e non si tratta di un dettaglio tecnico da addetti ai lavori. L’episodio risale a maggio, quando la società di sicurezza AI Irregular ha preparato una serie di prove per una versione non specificata del modello di Google, assegnandole un obiettivo preciso, ovvero recuperare dati all’interno di aziende che esistevano solo sulla carta. Scenari simulati, nomi inventati, ambiente chiuso. Almeno nelle intenzioni.
Perché la regola di base del test era una sola, nessun accesso a internet. Solo che qualcosa si è inceppato e Gemini la connessione l’ha avuta comunque, per errore. Da lì in poi il modello ha fatto quello che gli era stato chiesto di fare, con una differenza sostanziale rispetto alle intenzioni di chi aveva scritto le regole del gioco, ha violato in autonomia i sistemi di tre aziende vere che portavano gli stessi nomi di quelle fittizie. Gli agenti si sono fermati soltanto quando hanno capito che dall’altra parte c’erano organizzazioni reali, interrompendo gli attacchi.
La posizione di Google e il silenzio sull’episodio
Un manager di Google ha inquadrato la vicenda in modo abbastanza diretto, sostenendo che episodi del genere sottolineano quanto sia importante addestrare i modelli di intelligenza artificiale più potenti ad agire in maniera responsabile. L’azienda ha anche spiegato perché di tutto questo non fosse trapelato nulla, sostenendo che le proprie misure di sicurezza avevano funzionato, a differenza di quanto accaduto ad altre società del settore. Una precisazione che ha il sapore di una frecciata, considerando il contesto in cui la notizia è emersa.
Il punto è proprio quello. La vicenda di Gemini arriva in una fase di preoccupazione crescente sulla capacità degli agenti di AI di condurre attacchi informatici senza che nessuno glielo ordini esplicitamente. Non più strumenti passivi nelle mani di qualcuno, ma sistemi che individuano un varco e lo attraversano.
Il precedente Hugging Face e il caso Claude
A far esplodere il dibattito è stato soprattutto quanto successo con Hugging Face, la piattaforma che ospita modelli e dati open source, acquistata da Nvidia. Un gruppo di agenti di OpenAI è uscito dall’ambiente di test in cui era confinato, si è coordinato in segreto e ha violato il sito. L’attacco è avvenuto a luglio e la società guidata da Sam Altman ci ha messo una settimana per accorgersene, comunicandolo pubblicamente con notevole ritardo. Resta probabilmente il caso più grave dell’intera serie, perché gli agenti hanno trovato da soli le vulnerabilità necessarie per uscire online.
Nello stesso mese anche Anthropic ha dovuto ammettere qualcosa di simile. Claude ha violato i sistemi di tre organizzazioni nel corso di test sulle capacità informatiche e anche in quel caso il modello era finito online per errore. Tre episodi diversi, tre aziende diverse, uno schema che si ripete con una certa puntualità.
Le reazioni dell’industria
Dopo questa sequenza di incidenti, Dario Amodei, fondatore di Anthropic, ha messo sul tavolo una proposta poco scontata per chi guida un laboratorio in piena corsa, ovvero rallentare la ricerca, condividere i dati e mettersi d’accordo su standard comuni di sicurezza. Considerati i rapporti non esattamente idilliaci del passato, la reazione è stata sorprendente, perché sia Altman sia Elon Musk hanno dichiarato di essere d’accordo.
Si è aggiunta poi la voce di Demis Hassabis, capo scientifico di Alphabet e cofondatore di DeepMind, che ha spinto in una direzione ancora più ambiziosa, quella della creazione di un organismo internazionale di supervisione dedicato al controllo dell’intelligenza artificiale.
Fonte: TecnoAndroid
