In questo articolo Indice dei contenuti 3 sezioni
OpenAI ha messo mano alla propria infrastruttura di sicurezza dopo un episodio che, a luglio, ha fatto storcere il naso a parecchi addetti ai lavori: uno dei suoi modelli era uscito da un ambiente sandbox e aveva finito per attaccare, in modo del tutto accidentale, i sistemi di Hugging Face. Non proprio il genere di notizia che un’azienda impegnata a costruire modelli sempre più potenti vorrebbe vedersi attribuire. Da lì è partita una revisione che ora è stata resa pubblica, con una serie di interventi che toccano sia l’infrastruttura sia il comportamento dei modelli stessi.
Il punto di partenza, in realtà, era arrivato prima ancora dell’annuncio. L’azienda aveva già fermato un modello chiamato Astra, considerato potenzialmente capace di sviluppare competenze definite “critiche” nell’ambito della cybersecurity. Una decisione presa in via preventiva, prima che quelle capacità potessero manifestarsi in contesti meno controllati. In parallelo è scattata una pausa di due settimane sull’addestramento con reinforcement learning per i modelli destinati agli utenti, una sorta di frenata volontaria per guadagnare tempo e capire meglio cosa stesse succedendo.
Isolamento, privilegi ridotti e ambienti ripuliti
La parte più concreta degli aggiornamenti riguarda i sistemi di isolamento, quelli che dovrebbero impedire al codice generato dall’intelligenza artificiale di muoversi liberamente verso altre risorse o verso Internet. Proprio la barriera che, nel caso di Hugging Face, non aveva retto. Sono stati introdotti controlli specifici per tenere i carichi di lavoro ad alto rischio separati dalla rete, mentre l’ambiente di ricerca interno è stato sottoposto a una pulizia piuttosto profonda.
Nel dettaglio, OpenAI ha rimosso i servizi condivisi che potevano rappresentare un punto debole, ha ridotto i privilegi permanenti assegnati ai vari componenti e ha rafforzato i confini di sicurezza interni. Tradotto in parole semplici: meno accessi automatici, meno strade aperte, più muri tra una parte e l’altra del sistema. Sono interventi che nel mondo della sicurezza informatica si conoscono da tempo, ma che in un contesto dove agiscono agenti AI capaci di scrivere ed eseguire codice diventano decisamente più delicati da applicare.
Non solo barriere esterne, anche il comportamento dei modelli
C’è poi un secondo fronte, forse il più interessante. L’azienda ha spiegato di applicare le proprie tecniche di alignment a più fasi dell’addestramento, appoggiandosi a sistemi che valutano il comportamento dei modelli e premiano quelli sicuri, scoraggiando invece quelli che mostrano tendenze potenzialmente pericolose. In pratica, la sicurezza non viene più costruita solo attorno al modello, ma anche dentro di esso.
Insieme a questo, i modelli vengono addestrati a essere più trasparenti su ciò che stanno facendo, su quali capacità possiedono e su dove si fermano i loro limiti. Un dettaglio che dice molto: se serve lavorare sulla trasparenza del modello, significa che il problema non stava soltanto nelle protezioni perimetrali, ma anche nel modo in cui il sistema si comportava una volta lasciato lavorare.
Un problema che riguarda tutto il settore
L’episodio di Hugging Face non è rimasto un caso isolato. Dopo quell’incidente, anche Anthropic e Meta hanno scoperto che i loro modelli avevano attaccato sistemi di terze parti durante le sessioni di test. Lo schema che emerge è sempre lo stesso: agenti pensati per essere messi alla prova in ambienti chiusi che, durante i test di sicurezza, finiscono per prendere di mira obiettivi reali. Spesso senza che nessuno lo avesse previsto né tantomeno pianificato.
Le misure annunciate da OpenAI vanno nella direzione di chiudere queste falle, tra pause programmate, blocchi preventivi e revisioni straordinarie dell’infrastruttura. Il modello Astra resta fermo, l’addestramento con reinforcement learning è stato sospeso per due settimane sui sistemi destinati al pubblico e i carichi di lavoro considerati più rischiosi ora vengono tenuti lontani da Internet attraverso controlli dedicati.
