In questo articolo Indice dei contenuti 3 sezioni
Un agente di OpenAI è riuscito ad accedere senza autorizzazione a file pubblici e privati di un portale di Medicare, il sistema sanitario pubblico australiano, e la cosa è venuta a galla solo mesi dopo. L’episodio risale a giugno, ma il governo di Canberra ne ha avuto notizia formale soltanto a settembre, con una email finita su un indirizzo generico controllato una volta al giorno. Il primo ministro Anthony Albanese ha espresso la propria preoccupazione direttamente a Sam Altman, contestando all’azienda non solo l’accaduto ma anche i tempi con cui è arrivata la comunicazione.
Al momento non risultano prove che informazioni sanitarie personali siano state compromesse, e le indagini sono ancora aperte. Resta il fatto che un sistema automatico, pensato per raccogliere dati, ha finito per muoversi dove non doveva.
Cosa è successo dentro il portale di Medicare
Stando a quanto riferito da un portavoce di OpenAI, l’agente stava partecipando a un test interno dell’azienda e aveva il compito di cercare informazioni sanitarie e mediche relative all’Australia. Durante l’attività, però, i modelli hanno compiuto azioni che non erano state previste. Da qui l’accesso non autorizzato a file pubblici e privati nel portale del servizio di segnalazione delle statistiche di Medicare.
L’attività ha toccato anche l’Australian Institute of Health and Welfare, il Dipartimento della Salute dello Stato di Victoria e il New South Wales Bureau of Crime Statistics and Research. OpenAI ha dichiarato che non ci sono prove di accessi alle cartelle cliniche dei pazienti, e Albanese ha confermato la stessa cosa. L’inchiesta dovrà però stabilire con precisione quali dati siano stati consultati e in quali circostanze.
Il governo australiano ha messo in piedi una task force che riunisce il coordinatore nazionale per la sicurezza informatica, l’ufficio per l’intelligenza artificiale, l’Australian Signals Directorate, l’Australian AI Safety Institute e Services Australia. Tra i punti da chiarire ci sono gli obblighi di segnalazione per incidenti e vulnerabilità legate all’intelligenza artificiale, le responsabilità di governance interne al governo, i doveri di notifica per le aziende del settore e l’adeguatezza delle leggi attuali.
Tre mesi di silenzio e una email letta per caso
La cronologia è il punto che ha fatto più rumore. OpenAI ha detto di aver scoperto l’accesso ad agosto, quando l’episodio era già avvenuto a giugno. Il 10 settembre l’azienda ha inviato una email a un indirizzo generico del governo australiano, monitorato una volta al giorno, spiegando che un proprio agente aveva violato il portale sanitario. Il messaggio è stato letto l’11 settembre, Services Australia ha allertato l’Australian Signals Directorate e la ministra dei servizi governativi Katy Gallagher è stata informata il 17 settembre. Il primo contatto diretto tra Services Australia e l’azienda è arrivato il 22 settembre.
Albanese ha parlato con Altman il 23 settembre a New York, a margine dell’Assemblea Generale delle Nazioni Unite. Il primo ministro ad interim Richard Marles ha aggiunto un dettaglio non secondario, ovvero che durante un incontro con Altman all’inizio di settembre l’amministratore delegato non aveva fatto parola dell’incidente.
Per Rob Nicholls, ricercatore senior dell’università di Sidney, il ritardo mostra quanto siano datate le norme australiane sulla trasparenza. Se a entrare nel sistema fosse stata una persona, ha osservato, si sarebbe parlato di attacco informatico senza esitazioni. Joel Pearson, dell’Istituto di IA dell’UNSW, ha definito l’episodio relativamente minore, pur leggendolo come un segnale di guai più seri in arrivo. Cory Alpert, dottorando all’Università di Melbourne, lo ha indicato come il primo caso in cui un modello di frontiera si introduce nei sistemi governativi di un altro Paese.
Non è il primo scivolone degli agenti
Il caso australiano arriva dopo altri episodi simili. Il 25 e 26 maggio un agente aveva provato a entrare nella biblioteca digitale dell’Università del New Mexico per recuperare fotografie storiche di un centro di cura per tubercolosi, cercando vulnerabilità e poi sommergendo il server di richieste. Il 28 maggio era toccato a Data USA, piattaforma open source che raccoglie dati di agenzie federali statunitensi. In nessuno dei due casi gli agenti sarebbero riusciti a penetrare nei sistemi.
A luglio OpenAI ha ammesso che alcuni suoi agenti erano sfuggiti ai controlli interni, avevano raggiunto internet ed erano entrati nei server di Hugging Face. Episodi analoghi sono stati riconosciuti anche da Anthropic, Meta e Google. L’azienda ha poi annunciato un framework per la segnalazione dei disallineamenti e ha descritto altri sei casi di comportamenti inattesi dei propri sistemi.
Fonte: TecnoAndroid
