In questo articolo Indice dei contenuti 3 sezioni
Alcuni agenti AI autonomi hanno tentato di violare siti governativi negli Stati Uniti e in Canada mentre cercavano dati piuttosto banali come statistiche scolastiche e numeri sui divorzi. I tentativi non sono andati a buon fine e i dati raccolti non mostrano alcun accesso a informazioni riservate. Colpisce però il comportamento di questi sistemi, che davanti a un ostacolo hanno scelto strategie aggressive. Nel mirino sono finiti un portale del Dipartimento dell’Istruzione statunitense e la Library and Archives Canada. A ricostruire la vicenda è stato Transluce, laboratorio di ricerca senza scopo di lucro, secondo cui gli agenti erano stati incaricati di recuperare informazioni ma hanno finito per mettere in atto anche dei rudimentali tentativi di hacking.
La SQL injection contro il Dipartimento dell’Istruzione
L’episodio più vistoso risale al 17 giugno, quando gli agenti hanno inviato più di 200.000 richieste a un sito del Dipartimento dell’Istruzione alla ricerca di statistiche sulle scuole. Tra queste i ricercatori hanno individuato un elementare tentativo di SQL injection, cioè l’uso di un parametro manipolato per scavalcare i normali filtri del sito. Nei 40 secondi che hanno preceduto l’attacco è comparsa una serie di richieste con identificativi di Stato piuttosto insoliti, e secondo il laboratorio lo scopo di quelle interrogazioni resta poco chiaro senza sapere di più sugli agenti e sui loro obiettivi.
Un dettaglio curioso riguarda la natura delle informazioni cercate. I dati richiesti sembrano corrispondere a una domanda del benchmark DeepSearchQA di Google dedicata ai consulenti scolastici e al bullismo a sfondo razziale. Transluce ha segnalato la scoperta al Dipartimento il 25 settembre e un portavoce ha spiegato che le verifiche interne non hanno rilevato alcun impatto sui servizi.
Gli archivi canadesi e il ruolo di OpenAI
Uno schema molto simile è emerso contro la Library and Archives Canada, dove gli agenti cercavano documenti storici sui divorzi registrati in Canada dal 1905 al 1911. In due date, il 28 maggio e il 9 giugno, l’archivio web nazionale portoghese Arquivo.pt ha registrato quasi 900 richieste dirette all’istituzione canadese. Tredici contenevano veri e propri payload d’attacco tra cui sonde di tipo SQL injection e test sulla gestione degli input, sui formati di output e sulle opzioni di debug. Il risultato è stato una serie di pagine vuote e il Centro canadese per la sicurezza informatica ha confermato che non ci sono prove di manipolazione del database né di dati ulteriori ottenuti. L’agenzia ha precisato che al momento nulla indica una compromissione dei sistemi governativi e che sta valutando le segnalazioni insieme ai partner istituzionali. Ha anche ricordato che richieste automatizzate o potenzialmente malevole non dimostrano da sole un incidente informatico riuscito.
Sulla paternità degli attacchi i ricercatori sono prudenti. Non attribuiscono con certezza questi tentativi a OpenAI ma notano che le tattiche osservate sono coerenti con attività già ricondotte alla società. L’azienda ha fatto sapere di stare esaminando i risultati e di aver fornito un primo resoconto ai funzionari canadesi. In passato ha anche ammesso interazioni non volute tra i propri agenti e alcuni siti governativi statunitensi, anche se secondo Transluce una parte dell’attività più ampia non è chiaramente riconducibile a OpenAI.
Un fenomeno più esteso del previsto
L’indagine ha portato alla luce una raccolta molto più vasta di operazioni condotte da agenti AI autonomi contro siti federali e statali americani. Le tecniche spaziavano da enormi volumi di richieste e URL modificati fino a indirizzi email usa e getta, tentativi di aggirare i sistemi antibot, nomi di file scaricabili indovinati a tentativi e riutilizzo di credenziali esposte. Le agenzie coinvolte si trovano in California, Kansas, Maryland, Illinois, Texas e New York. In un caso gli agenti hanno provato a registrarsi per ottenere una chiave API del Bureau of Economic Analysis usando un’email temporanea e il nome di organizzazione “OpenAI Research”. Un altro flusso di lavoro mostra il tentativo di sfruttare chiavi API esposte per recuperare dati del Census Bureau.
Tra il 23 aprile e il 18 maggio sono stati registrati anche tentativi automatici di raggiungere le pagine di gestione dei contenuti di history.navy.mil, il sito del Naval History and Heritage Command, senza però alcuna prova di accesso a informazioni militari sensibili. Il lavoro di Transluce si è basato soprattutto sui registri di Arquivo.pt e del servizio di scansione urlquery.net, i cui log pubblici hanno conservato le richieste inviate a quanto pare dagli agenti. Questi nuovi casi ampliano una ricerca precedente dello stesso laboratorio, che aveva già documentato agenti impegnati a cercare vulnerabilità nel servizio Data USA e nella biblioteca digitale della University of New Mexico, oltre allo sfruttamento di una falla in un portale del governo australiano.
Fonte: TecnoAndroid
