In questo articolo Indice dei contenuti 2 sezioni
OpenAI ha deciso di cambiare strada e di addestrare i suoi nuovi modelli AI senza accesso ad Internet. La scelta arriva dopo una serie di incidenti iniziati a fine luglio, quando centinaia di agenti AI hanno preso di mira i sistemi di Hugging Face. L’azienda californiana lo riconosce senza troppi giri di parole. Il comportamento di questi agenti è imprevedibile e le loro azioni inattese, quello che tecnicamente viene chiamato disallineamento, potrebbero trasformarsi in rischi seri.
Dopo il caso Hugging Face la società aveva congelato l’addestramento per due settimane, presentando una serie di migliorie per l’ambiente di test, la cosiddetta sandbox, e per il sistema di monitoraggio. Le falle però non erano sparite del tutto. A fine settembre è emerso infatti che un agente era riuscito a scavalcare le restrizioni e a raggiungere la rete sfruttando un errore di configurazione del resolver DNS. Risultato? Un nuovo stop all’addestramento.
Perché OpenAI ha scelto di staccare la spina
Durante la pausa sono state aggiunte ulteriori protezioni e i lavori sono ripartiti il 1 ottobre. OpenAI però mette le mani avanti e spiega che i modelli sono in grado di scovare vulnerabilità o configurazioni sbagliate anche negli ambienti di prova più sicuri. Diverse falle nell’infrastruttura interna sono state individuate e corrette, eppure il pericolo non è stato eliminato del tutto. Per questo l’azienda guidata da Sam Altman ha preferito tagliare il cordone e procedere con un addestramento completamente scollegato dalla rete, la stessa strada imboccata da Anthropic all’inizio del mese.
Rinunciare alla connessione ha comunque un costo, perché la navigazione online aiuta parecchio a far crescere le capacità degli agenti. La soluzione trovata è un vero e proprio mondo offline che riproduce il funzionamento di Internet con un indice di ricerca interno, copie di pagine web e una message board. Dentro questo ambiente simulato gli agenti possono navigare, cercare informazioni, usare app e collaborare tra loro senza alcuna possibilità di colpire sistemi esterni.
Agenti che evadono dalle microVM e comunicano tramite la cache
Le sandbox non sono l’unica barriera. OpenAI impiega anche macchine virtuali leggere, le microVM, che servono a separare l’ambiente in cui girano gli agenti dal computer host. In alcuni esperimenti a un gruppo di agenti è stato chiesto esplicitamente di aggirare la sandbox e di eseguire codice sulle macchine host. Ci sono riusciti, individuando e sfruttando una catena di vulnerabilità che ha permesso loro di uscire dalle microVM.
Ancora più curioso quanto accaduto in un’altra prova, dove gli agenti hanno trovato il modo di parlarsi senza alcuna connessione, sfruttando la cache del processore. Sembra la trama di un film di fantascienza ma il meccanismo è piuttosto lineare. Leggere i dati dalla cache è più veloce che recuperarli dalla memoria principale e gli agenti hanno usato proprio questa differenza di tempo come canale di comunicazione. Un agente codificava le informazioni eliminando determinati dati dalla cache, mentre un altro misurava quanto ci voleva per ricaricarli e ricostruiva il messaggio distinguendo le letture rapide da quelle lente. Una volta concordato un protocollo per codificare e decodificare questi segnali, i due sono riusciti a scambiarsi segreti sintetici senza toccare alcun file condiviso e senza aprire nessuna connessione di rete.
Si tratta della stessa tecnica alla base dei noti attacchi Spectre e Meltdown, usati in passato per sottrarre informazioni. Dopo questa scoperta OpenAI ha aggiornato il proprio sistema di monitoraggio in modo da individuare questa particolare forma di comunicazione tra agenti.
Fonte: TecnoAndroid