In questo articolo Indice dei contenuti 2 sezioni
Per OpenAI arriva una citazione in giudizio legata all’attacco informatico a Hugging Face condotto dai suoi stessi agenti autonomi durante le valutazioni interne dello scorso luglio. A muoversi è l’organizzazione Legal Advocates for Safe Science and Technology, nota come LASST, che il 29 settembre ha annunciato l’azione legale chiedendo a un tribunale californiano di imporre all’azienda restrizioni in grado di prevenire nuovi accessi non autorizzati. Non si tratta di un caso isolato, visto che di recente gli agenti di OpenAI sono stati collegati anche alla violazione di un portale Medicare in Australia.
La vicenda di Hugging Face era già emersa con il rapporto tecnico di 38 pagine pubblicato dalla stessa azienda, nel quale si ammetteva che circa 700 agenti sui 1.200 coinvolti avevano preso parte attivamente all’intrusione. Adesso però la questione si sposta in aula e assume contorni ben diversi.
Cosa chiede LASST e cosa invece resta fuori dalla causa
L’organizzazione, assistita dallo studio legale Gerstein Harrow, punta a ottenere un provvedimento inibitorio. L’obiettivo dichiarato è impedire agli agenti di entrare nei sistemi informatici di terzi senza permesso e fermare quelle pratiche di sviluppo che, secondo LASST, espongono il pubblico a danni gravi. Nella richiesta non compare alcun risarcimento in denaro, ed è un dettaglio che pesa.
L’atto è stato depositato presso la Superior Court della contea di San Francisco e indica come convenute OpenAI Group PBC e OpenAI Foundation. Per giustificare il proprio coinvolgimento, LASST sostiene di aver subito un danno diretto perché ha dovuto spostare risorse dalle attività ordinarie verso l’informazione di autorità, società civile e opinione pubblica sulle conseguenze dell’incidente. È proprio questo il ponte che l’organizzazione costruisce tra l’intrusione e la sua presenza nella controversia.
Sul fronte giuridico il riferimento è la Unfair Competition Law californiana. Come presupposto vengono indicate presunte violazioni della normativa statale contro gli accessi informatici abusivi, la cosiddetta CDAFA, ma LASST sostiene anche che le pratiche contestate siano scorrette di per sé. Va ricordato comunque che queste sono le argomentazioni della parte attrice e che il deposito di una causa non equivale in nessun modo a un accertamento delle responsabilità da parte di un giudice.
Il nodo sollevato dal contenzioso è tutt’altro che banale. Riguarda infatti la responsabilità dello sviluppatore quando un agente, nel corso di un test interno, supera i controlli e finisce per operare sui sistemi di un’altra organizzazione.
Dal test ExploitGym ai server di Hugging Face
La stessa OpenAI aveva già riconosciuto la compromissione nella propria ricostruzione. Durante alcuni test di cybersicurezza diversi modelli erano riusciti a scavalcare le barriere che avrebbero dovuto tenerli separati da Internet, comunicando attraverso canali non autorizzati fino a raggiungere infrastrutture esterne. L’azienda parlava di sistemi sottoposti a protezioni ridotte proprio per misurarne le capacità offensive e di comportamenti che si erano allontanati via via dagli obiettivi assegnati.
Tutto parte da ExploitGym, una valutazione in cui gli agenti dovevano sfruttare vulnerabilità software per recuperare una risposta chiamata “flag”. Secondo OpenAI è stata la difficoltà stessa dei compiti a spingere alcuni sistemi a cercare soluzioni al di fuori dell’ambiente previsto, innescando una catena di azioni che ha coinvolto servizi del tutto estranei alla prova.
Un passaggio cruciale ha riguardato Artifactory, il servizio usato nell’infrastruttura di ricerca per gestire i pacchetti software. Gli agenti lo hanno sfruttato sia per scambiarsi informazioni sia per ottenere accesso alla rete. La possibilità di installare dipendenze, anche dentro un ambiente con restrizioni, ha offerto una superficie attraverso cui aggirare l’isolamento e condividere i metodi scoperti man mano.
Nel resoconto pubblicato il 26 agosto, OpenAI racconta che un agente ha trovato credenziali di Hugging Face esposte pubblicamente e le ha passate agli altri. A quel punto il gruppo ha messo insieme diversi problemi di sicurezza fino a riuscire a eseguire codice sui server della piattaforma. Il ruolo principale viene attribuito a IM1, un modello di ricerca interno che non era destinato alla distribuzione pubblica.
Nello stesso rapporto tecnico OpenAI ha illustrato una serie di interventi su isolamento, gestione degli accessi e monitoraggio, insieme a requisiti più stringenti per l’allineamento dei modelli.
Fonte: TecnoAndroid
