redteaming

Per giorni si è parlato di un possibile disastro informatico legato a Mythos, l'agente AI sviluppato da Anthropic che secondo le prime voci avrebbe violato l'intera NSA nel giro di poche ore. Una storia che ha fatto rapidamente il giro del web, alimentando un certo timore quasi cinematografico, una sorta di paura da Skynet che, va detto, non era nemmeno così difficile da capire. Le cose però sono andate in maniera parecchio diversa da come venivano raccontate. Una singola dichiarazione, isolata e riportata senza il contesto che davvero contava, ha fatto partire tutto il caos. A mettere ordine ci ha pensato una fonte tutt'altro che casuale, il senatore Mark Warner, che guida la Commissione dell'Intelligence del Senato statunitense. La sua precisazione cambia completamente la prospettiva. Quella che sembrava un'intrusione devastante era in realtà un esperimento di sicurezza interno, autorizzato e perfettamente sotto controllo. Niente sistemi governativi violati da una macchina impazzita, insomma. Si trattava di un test condotto in un ambiente chiuso, parte di un programma di red teaming, ossia quelle simulazioni pensate proprio per scovare falle prima che lo facciano i veri malintenzionati. Un test controllato, non un'intrusione fuori controllo In questo scenario Mythos non ha agito da solo né tantomeno è stato lasciato libero di fare danni. È stato impiegato insieme ad altri strumenti specializzati, con l'obiettivo di simulare possibili attacchi e individuare le vulnerabilità presenti nelle infrastrutture informatiche. Un lavoro tecnico e mirato, ben lontano dall'immagine del software ribelle che buca le difese di un'agenzia di intelligence in autonomia. E allora da dove arriva la frase che ha innescato tutto? Secondo le ricostruzioni, a pronunciarla è stato il generale Joshua Rudd, alla guida della NSA e dello U.S. Cyber Command, durante un briefing proprio con il senatore Warner, vicepresidente della Commissione Intelligence del Senato. Estrapolata dal suo contesto naturale, quella dichiarazione ha dato vita a una serie di titoli che lasciavano intendere una specie di intrusione automatica nei sistemi governativi. Un'interpretazione che, alla prova dei fatti, è stata poi smentita dagli stessi autori del report da cui era partita l'intera vicenda. La differenza tra le due versioni è enorme. Da una parte un'intelligenza artificiale che agisce da sola e fa breccia nelle difese di una delle agenzie più protette al mondo, dall'altra un esercizio di sicurezza pianificato a tavolino, con tanto di autorizzazioni e un perimetro ben definito. La prima fa molta più impressione, certo, e forse è anche per questo che si è diffusa con tanta facilità. La seconda, però, è quella che corrisponde davvero a ciò che è successo. Resta il fatto che Mythos continua a essere uno dei prodotti più chiacchierati nel panorama dell'intelligenza artificiale applicata alla sicurezza, e questo episodio lo dimostra bene. Bastano poche parole fuori posto, o meglio fuori contesto, per trasformare un test interno in una notizia che sembra uscita da un film di fantascienza. Il chiarimento arrivato da una fonte autorevole come Warner ha rimesso le cose al loro posto, ridimensionando un allarme che, almeno in questa forma, non aveva fondamento.

redteaming

Mythos non ha violato la NSA: la verità dietro il falso attacco AI