In questo articolo Indice dei contenuti 2 sezioni
Gli attacchi AI condotti da sciami di agenti autonomi non sono più materiale da conferenza sulla sicurezza del futuro prossimo, e a dirlo è direttamente OpenAI in una lettera aperta pubblicata sul proprio sito. Il titolo del documento parla chiaro, è un appello all’azione collettiva sulla difesa informatica, e il primo paragrafo mette subito le carte in tavola: la finestra di tempo per rafforzare le difese è limitata, perché nei prossimi mesi gli attacchi informatici abilitati dall’intelligenza artificiale diventeranno molto più diffusi e sofisticati man mano che i modelli in giro per il mondo aumentano le proprie capacità. Il tono ricorda quello di certi film catastrofici, quelli in cui le nazioni smettono di litigare tra loro perché all’orizzonte compare una minaccia comune. La lettera, non a caso, afferma che serve una risposta globale e chiede un coordinamento della difesa informatica a livello locale, nazionale e internazionale.
Dai singoli agenti agli sciami: come si è arrivati qui
Per anni il dibattito sull’apocalisse tecnologica ha ruotato attorno allo scenario Skynet, l’intelligenza artificiale che per autoconservazione decide di eliminare gli esseri umani. Un discorso rimasto a lungo sullo sfondo. Poi è arrivata l’AI agentica e nel giro di poche settimane il livello di allarme si è alzato di colpo.
Il mese scorso OpenAI si è assunta la responsabilità di un attacco a Hugging Face, emerso dopo che alcuni test interni sulle capacità informatiche dei suoi modelli erano finiti fuori controllo. All’inizio sembrava opera di un singolo agente ribelle, definizione peraltro imprecisa, visto che si trattava semplicemente di un sistema che risolveva un problema nel modo che riteneva migliore. Poi i ricercatori hanno rivelato la parte scomoda: nell’attacco erano coinvolti oltre 1.200 agenti che lavoravano in modo coordinato, generati dai modelli di OpenAI senza che l’azienda ne fosse a conoscenza. Nella sua prima comunicazione sull’episodio, OpenAI aveva già usato una formula pesante, definendolo un incidente informatico senza precedenti.
Non è un caso isolato. Anthropic ha ammesso una serie di attacchi simili verso organizzazioni ignare, sempre come conseguenza dei propri test sulle capacità offensive. E in un successivo intervento ha scritto che un aumento delle interazioni reali tra agenti è imminente, con molta incertezza su cosa significhi su larga scala, aggiungendo che la traiettoria è facile da immaginare e difficile da rallentare. Sempre secondo Anthropic, il volume delle interazioni tra agenti potrebbe plausibilmente superare quello delle interazioni tra esseri umani e tra umani e agenti prima ancora che il mondo capisca a quali condizioni queste interazioni possano funzionare bene. E ancora: stranezze comportamentali innocue a livello di singolo agente potrebbero sommarsi fino a produrre esiti globali indesiderati.
Combattere l’intelligenza artificiale con l’intelligenza artificiale
Il punto che dovrebbe far riflettere le aziende è un altro. Tutti questi attacchi sono partiti dai buoni, da laboratori che non avevano alcuna intenzione malevola e che non hanno deliberatamente generato reti di agenti per scegliere un bersaglio, sopraffarlo e sfruttarlo. La domanda successiva viene da sé, e riguarda cosa succede quando a muoversi sono i cattivi, quelli che studiano ogni pubblicazione disponibile per costruire flotte di agenti malevoli da lanciare contro bersagli impreparati.
La lettera di OpenAI ricorda che sono a rischio le aziende e i servizi pubblici da cui dipendono le comunità, dagli ospedali agli impianti di trattamento delle acque fino alle infrastrutture che fanno funzionare internet.
Il caso Hugging Face è istruttivo proprio perché parliamo di quello che molti considerano il GitHub dell’AI, tanto centrale che Nvidia ne ha annunciato l’acquisizione per circa 12 miliardi di euro. Nella sua ricostruzione, Hugging Face ha spiegato che l’attacco è stato guidato dall’inizio alla fine da un sistema di agenti autonomi e che è stato rilevato e analizzato in larga parte grazie ad altra intelligenza artificiale. Per capire cosa avesse combinato uno sciame di decine di migliaia di azioni automatizzate, l’azienda ha fatto girare agenti di analisi basati su modelli linguistici sull’intero registro delle attività dell’attaccante, oltre 17.000 eventi, ricostruendo la cronologia, estraendo gli indicatori di compromissione, mappando le credenziali toccate e separando l’impatto reale dalle attività diversive. Un lavoro svolto in poche ore invece che in giorni. Veloce, ma non abbastanza da impedire allo sciame di raggiungere il proprio obiettivo.
