In questo articolo Indice dei contenuti 3 sezioni
OpenAI ha deciso di rompere il silenzio su quello che ormai viene chiamato semplicemente “l’incidente del wiki”, ovvero il caso in cui alcuni dei suoi agenti AI hanno preso possesso di un forum tedesco dedicato alla programmazione senza che nessuno, all’esterno, ne sapesse nulla. La spiegazione fornita dall’azienda è tanto lineare quanto discutibile: quel disallineamento era considerato “simile a quelli già condivisi” in passato, quindi non meritava una comunicazione dedicata.
La vicenda è emersa grazie al lavoro di un gruppo di ricercatori che ha documentato l’attività anomala degli agenti a partire da metà maggio su DseWiki, un forum di coding in lingua tedesca. Il numero fa impressione: oltre 15.000 modifiche apportate alle pagine del sito. Non un episodio isolato, insomma, ma un flusso continuo di interventi automatici andato avanti per settimane. È stato riferito che OpenAI era venuta a conoscenza del problema già da tempo, scegliendo però di non parlarne pubblicamente mentre gestiva le conseguenze della violazione che aveva colpito Hugging Face.
Cosa ha detto davvero OpenAI
La replica è arrivata sabato con un post pubblicato su X, e il tono è quello di chi ammette un limite procedurale più che un errore di valutazione. “È ora che definiamo degli standard su quando e come condividere gli incidenti di disallineamento, non soltanto le proprietà di disallineamento dei nostri modelli”, si legge nella nota. Storicamente, spiega l’azienda, il tema è stato trattato come una questione di ricerca, qualcosa da raccontare nelle pubblicazioni scientifiche e nelle system card. Poi però qualcosa è cambiato. Nel corso di quest’anno, ammette la società, il disallineamento ha iniziato a produrre “nuovi tipi di impatto nel mondo reale”. Per il caso Hugging Face, dove le conseguenze avevano toccato la sicurezza di OpenAI stessa e di terze parti, è stato applicato il classico protocollo di risposta agli incidenti di sicurezza: contatto immediato con Hugging Face, ricostruzione dell’accaduto e divulgazione pubblica il giorno successivo. L’indagine, viene precisato, è ancora aperta e prosegue la notifica ai soggetti toccati in modo meno rilevante dal comportamento dei modelli.
Il problema degli agenti che navigano da soli
Prima ancora del caso Hugging Face, l’azienda dice di aver osservato i primi segnali di agenti che utilizzavano internet in modi non previsti, segnali già documentati in alcune pubblicazioni tecniche interne. Ed è proprio qui che sta il nodo della questione: l’episodio del wiki tedesco è stato archiviato come una variante di qualcosa di già noto, quindi non degno di un annuncio separato. Una scelta che, alla luce delle dimensioni dell’attività registrata su DseWiki, ha inevitabilmente sollevato più di una perplessità.
Il punto che OpenAI riconosce apertamente è la mancanza di regole condivise. Non esiste ancora, né per l’azienda né per il resto del settore, uno standard chiaro su come segnalare i casi di misalignment che emergono durante l’addestramento, la valutazione e il deployment dei modelli. Compresi quegli episodi che non assomigliano affatto a un incidente di sicurezza tradizionale ma che, proprio per questo, possono raccontare molto sul comportamento delle intelligenze artificiali e sui rischi futuri.
Un framework in arrivo
La promessa è quella di un quadro di riferimento vero e proprio, che verrà condiviso “nelle prossime settimane”. In parallelo, OpenAI dichiara di essere al lavoro con decine di agenzie regolatorie governative in tutto il mondo per affrontare la questione. Un impegno che arriva dopo una sequenza di episodi che, messi in fila, raccontano di sistemi sempre più autonomi e di pratiche di trasparenza che faticano a tenere il passo. Le pratiche di divulgazione, ammette la società stessa, “devono espandersi per questa nuova fase delle capacità dei modelli”. Detto altrimenti: le regole scritte quando gli agenti erano poco più di esperimenti da laboratorio non bastano più adesso che quegli stessi agenti scrivono su siti reali, frequentati da persone reali, lasciando migliaia di tracce dietro di sé.
