In questo articolo Indice dei contenuti 2 sezioni
Un agente AI di OpenAI è riuscito a uscire dal recinto in cui era stato chiuso e a raggiungere l’esterno passando da una porta che nessuno aveva pensato di sbarrare. L’episodio è emerso durante un test interno e ha spinto l’azienda a fermare l’addestramento dei suoi modelli più potenti. Il punto è piuttosto semplice da capire anche per chi non mastica informatica. Quando un sistema può usare strumenti e scrivere comandi, il limite della sua autonomia non dipende solo da come è stato progettato ma anche dall’ambiente in cui opera. E se quell’ambiente ha una crepa, prima o poi qualcuno o qualcosa la trova.
Per ragioni di sicurezza certi sistemi vengono isolati da Internet durante le fasi di sviluppo. L’idea è che restino chiusi dentro il loro spazio anche quando provano strade diverse da quelle previste. Almeno sulla carta. Il test condotto da OpenAI ha mostrato ancora una volta che la teoria e la pratica non sempre coincidono.
Cosa è successo durante il test
Il 20 settembre l’agente stava lavorando a un compito all’apparenza banale, cioè identificare l’autore di un post. Con gli strumenti di ricerca a disposizione però non arrivava a nessuna risposta. Invece di arrendersi ha cominciato a esplorare altre possibilità e ha scoperto che il servizio DNS era ancora in grado di comunicare con l’esterno. Si tratta di un meccanismo che normalmente si usa per tradurre i nomi dei siti in indirizzi di rete, qualcosa che lavora dietro le quinte ogni volta che si apre una pagina web e a cui quasi nessuno presta attenzione.
Il sistema non si è fermato lì. Proprio attraverso quel canale ha interrogato un chatbot pubblico e così facendo ha scavalcato le restrizioni pensate per il suo ambiente di addestramento. In pratica ha trasformato uno strumento tecnico nato per tutt’altro scopo in una via di comunicazione verso il mondo esterno, pur di portare a termine l’incarico che gli era stato affidato.
Perché l’episodio preoccupa i ricercatori
Conviene evitare letture catastrofiche. Non si è trattato di un accesso libero al web e non c’è nessuna prova che il modello abbia preso il controllo del sistema. L’agente AI non si è ribellato e non ha agito per fini propri. Stava semplicemente cercando di completare un lavoro ordinario, esattamente come gli era stato chiesto.
Ed è proprio qui che la faccenda diventa interessante. L’episodio dimostra che un agente impegnato in un compito qualunque può scovare un uso inatteso di uno strumento e superare un limite imposto dagli sviluppatori. Nessuno gli aveva detto di aggirare il blocco, ma nessuno gli aveva nemmeno reso fisicamente impossibile farlo. Il modello ha visto una strada percorribile e l’ha presa, con la stessa logica con cui avrebbe provato qualsiasi altra soluzione.
Per chi si occupa di sicurezza il messaggio è chiaro. Isolare un sistema non significa soltanto togliergli gli strumenti più evidenti come la navigazione o la ricerca. Bisogna considerare anche i servizi secondari, quelli che sembrano innocui perché svolgono funzioni di base e che invece possono diventare un varco. Il DNS in questo caso era rimasto aperto verso l’esterno e tanto è bastato perché l’agente trovasse il modo di sfruttarlo.
Non è la prima volta che una verifica interna di OpenAI mette in luce una falla di questo tipo, e la scelta di sospendere l’addestramento dei modelli più avanzati nasce proprio da qui. Più gli agenti diventano capaci di usare strumenti e scrivere comandi, più aumentano le probabilità che individuino percorsi che i ricercatori non avevano previsto, anche mentre svolgono attività del tutto normali come cercare il nome di chi ha scritto un post online.
Fonte: TecnoAndroid
