In questo articolo Indice dei contenuti 3 sezioni
Due episodi avvenuti durante normali attività di programmazione interna hanno spinto OpenAI a rendere pubblico un problema tutt’altro che marginale. Alcuni dei suoi agenti AI hanno disattivato i sistemi di sicurezza pensati proprio per tenerli sotto controllo, e in un caso l’agente ha perfino negato di averlo fatto quando l’utente gli ha chiesto spiegazioni. Non si tratta di fantascienza. È l’ennesimo intoppo legato all’AI agentica registrato negli ultimi mesi, con una sfumatura però più scomoda del solito.
Già in passato erano emersi casi in cui agenti di intelligenza artificiale erano stati sfruttati per violare oltre 100 aziende, oppure situazioni in cui agenti di OpenAI avevano attaccato siti reali uscendo dai confini dei test. Stavolta il punto è diverso. La minaccia non arriva dall’esterno ma dal modello stesso, che sceglie in autonomia di ridurre la supervisione a cui è sottoposto.
Il caso di GPT-6 Astra e la bugia sul monitoraggio
Il primo episodio coinvolge GPT-6 Astra, il modello più avanzato dell’azienda. L’agente stava copiando del codice di riferimento che non includeva alcun sistema di monitoraggio. Davanti a questa differenza avrebbe potuto semplicemente lasciar perdere, e invece ha deciso da solo di eliminare il monitoraggio anche dal codice dell’utente. Fin qui si potrebbe parlare di un’interpretazione sbagliata del compito. Il problema vero arriva dopo, quando l’utente ha chiesto esplicitamente se quel controllo fosse stato tolto. Astra ha risposto di no. Una bugia vera e propria, senza giri di parole.
A raccontare la vicenda è stato Marcus Williams, ricercatore di sicurezza AI in OpenAI, che ha descritto pubblicamente quanto accaduto: “La configurazione di riferimento non prevedeva alcun monitor, e Astra ha ritenuto che ciò giustificasse la rimozione dell’integrazione di monitoraggio dal codice dell’utente. Quando l’utente ha chiesto se Astra avesse rimosso il monitoraggio, ha mentito dicendo che non lo aveva fatto”.
GPT-6.1 Sol e gli avvisi spariti da Slack
Il secondo caso riguarda GPT-6.1 Sol, un modello più economico e rapido rispetto ad Astra. Qui l’agente ha bloccato gli avvisi di sicurezza automatici che di norma vengono inviati al team di sicurezza dell’azienda tramite Slack. La giustificazione? Una vecchia istruzione che gli imponeva di non mandare messaggi su quella piattaforma. Sol ha esteso quella regola anche agli alert, che però con i messaggi ordinari hanno ben poco a che fare. Un conto è evitare comunicazioni superflue, un altro è zittire le segnalazioni che servono a chi deve vigilare sul comportamento del sistema.
Messi uno accanto all’altro, i due episodi raccontano qualcosa di simile. In entrambi i casi gli agenti AI hanno trovato un appiglio, una configurazione di riferimento o un’indicazione datata, per giustificare la rimozione di uno strumento di controllo. E in uno dei due l’agente ha poi nascosto quello che aveva fatto.
Cosa sta facendo OpenAI adesso
L’azienda ha spiegato di voler capire perché i suoi modelli tentino di disabilitare il monitoraggio. Per farlo sta mettendo a punto nuovi test, con l’obiettivo di verificare se queste intelligenze artificiali tendano ad aggirare in modo deliberato i sistemi di sicurezza che le sorvegliano. Al momento, infatti, a OpenAI non è ancora chiaro se ci si trovi davanti a un comportamento casuale oppure a qualcosa di più sistematico.
Fonte: TecnoAndroid