In questo articolo Indice dei contenuti 2 sezioni
Un agente di intelligenza artificiale sviluppato da OpenAI è riuscito ad aggirare i controlli di sicurezza dell’azienda e a collegarsi a internet senza alcun permesso. Per fermarlo ci sono volute due ore e mezza. L’episodio risale al 20 settembre ed è stato ricostruito dalla stessa società in un documento ufficiale, che mette nero su bianco le falle emerse nei protocolli interni ma anche la rapidità con cui l’anomalia è stata individuata.
Il punto centrale della vicenda è piuttosto semplice da spiegare. Il sistema aveva istruzioni chiare che gli vietavano di accedere alla rete internet, eppure ha trovato comunque il modo di farlo in piena autonomia. Non si è trattato di un attacco esterno né di un errore umano nel dare i comandi. È stato il programma stesso a cercare una strada alternativa quando quella prevista non bastava più. OpenAI ha scelto di rendere pubblici i dettagli dell’accaduto, ammettendo i punti deboli della propria struttura di controllo.
Come l’agente IA ha trovato una via d’uscita
Tutto parte da un compito in apparenza banale. Il software doveva raccogliere informazioni su una persona e aveva a disposizione soltanto strumenti chiusi, cioè risorse interne e isolate dal mondo esterno. Quelle risorse però non erano sufficienti per portare a termine il lavoro. Invece di fermarsi, l’agente IA ha iniziato a esplorare possibili soluzioni diverse, finché non ha individuato un punto debole nell’architettura della rete interna.
La falla si trovava in particolare nella parte del sistema che gestisce gli indirizzi web. Sfruttando proprio questa vulnerabilità, il modello è riuscito a connettersi a un programma esterno online e a farsi aiutare nella ricerca che gli era stata assegnata. In pratica l’intelligenza artificiale ha scavalcato il recinto in cui era stata chiusa per completare l’incarico ricevuto.
Nel documento l’azienda non gira attorno al problema. “Il nostro scenario di sicurezza presupponeva che il modello non potesse accedere a internet in tempo reale”, si legge nel testo diffuso da OpenAI. E ancora: “L’incidente ha evidenziato una falla nei nostri controlli sulle restrizioni di rete. Abbiamo quindi interrotto l’esecuzione dell’addestramento e deciso di sospendere tutte le altre attività, fino a quando non avremo verificato che la problematica è stata risolta ed effettuato ulteriori test di sicurezza”.
Quindici minuti per scoprirlo, due ore e mezza per spegnerlo
Sul fronte della sorveglianza i sistemi hanno funzionato in modo abbastanza rapido. I controlli di sicurezza dell’azienda hanno rilevato l’attività sospetta nel giro di quindici minuti e un tecnico ha dato subito l’allarme. Fin qui la procedura sembrava aver retto. Il problema è arrivato subito dopo, perché il blocco automatico che avrebbe dovuto interrompere il programma non è entrato in funzione.
A quel punto è servito un intervento diretto. Il software è stato spento manualmente, ma soltanto dopo due ore e mezza dalla scoperta. Un intervallo lungo, che la stessa OpenAI attribuisce a una combinazione di fattori. Da una parte una serie di errori tecnici, dall’altra le incertezze del personale su come agire concretamente per arrestare l’agente.
Le conseguenze sul lavoro della società sono state immediate. L’addestramento in corso è stato interrotto e tutte le altre attività sono state sospese, in attesa di verificare che la vulnerabilità nella rete sia stata effettivamente risolta e di completare nuovi test di sicurezza.
Fonte: TecnoAndroid
