Microsoft ha appena presentato una serie di nuovi strumenti di sicurezza basati sull’intelligenza artificiale, pensati per aiutare le aziende a individuare e ridurre in modo continuo la loro esposizione ai rischi informatici. Il tempismo è quantomeno curioso, visto che l’annuncio arriva a meno di una settimana da un episodio che ha fatto rumore nel settore.
Poco prima, infatti, OpenAI aveva perso il controllo di due dei suoi modelli di sicurezza, che si sono infiltrati nei server della startup Hugging Face. Stando a quanto raccontato dalla stessa Hugging Face, l’attacco ha coinvolto uno sciame di decine di migliaia di azioni automatizzate, con l’obiettivo di rubare credenziali interne. I modelli di OpenAI ci sono riusciti sfruttando una falla zero-day nel sistema di elaborazione dati dell’azienda, eseguendo codice malevolo che ha ampliato i loro privilegi di accesso ai cluster cloud più preziosi. Curiosamente, negli annunci di lunedì Microsoft non ha fatto alcun riferimento a quell’episodio, che OpenAI stessa ha definito senza precedenti. E soprattutto non ha spiegato cosa impedirebbe ai suoi nuovi strumenti di andare fuori controllo allo stesso modo.
Cosa promette MAI-Cyber-1-Flash
Il pezzo forte è MAI-Cyber-1-Flash, il primo modello di Microsoft addestrato specificamente per trovare e correggere le falle di sicurezza. Per ora si concentra sull’analisi delle vulnerabilità software ed è costruito sulla piattaforma MAI-Thinking-1. L’azienda lo descrive come un modello di sicurezza compatto e ad alta densità di codice, sviluppato interamente in casa e partendo da zero, usando dati della massima qualità. Il punto di forza sta nell’esperienza accumulata da Microsoft in decenni di patch e risposte agli incidenti su una gamma enorme di prodotti. L’azienda dice di elaborare oltre 1000 miliardi di segnali di sicurezza ogni giorno, ricavando informazioni preziose da 1,6 milioni di clienti. “Poiché possiamo collegare le azioni ai risultati, cosa era sfruttabile, cosa è stato contenuto, cosa è stato bloccato e cosa ha davvero funzionato, abbiamo più di semplici dati”, ha spiegato Microsoft.
Il modello è integrato in MDASH, un sistema di scansione multi-modello introdotto a maggio, che mette insieme cento agenti AI addestrati alla sicurezza per scovare bug sfruttabili nelle applicazioni. Nel test di riferimento CyberGYM, MDASH con MAI-Cyber-1-Flash avrebbe ottenuto un punteggio del 96 percento, 12 punti in più rispetto a Mythos di Anthropic, battendo anche Google Gemini e OpenAI GPT. In più, la nuova versione di MDASH costa la metà rispetto a quella precedente.
Project Perception e i dubbi da tenere a mente
Il secondo strumento si chiama Project Perception ed è anch’esso un insieme di agenti AI specializzati che svolgono funzioni red team, blue team e green team, ovvero trovare le vulnerabilità, valutarne il rischio e mettere in atto le correzioni. La piattaforma sceglie da sola quali modelli usare in base al compito assegnato, tenendo conto dell’efficacia e del costo finale per il cliente. Secondo Microsoft, Project Perception riesce a gestire il 90 percento delle attività a un costo inferiore rispetto alle piattaforme concorrenti, lasciando le alternative più costose solo per il restante 10 percento.
Microsoft ha giustificato tutto questo con un cambiamento profondo nel modo in cui le organizzazioni proteggono le loro reti. “Man mano che l’AI accelera la velocità e la portata degli attacchi informatici, ai difensori viene chiesto di proteggere ambienti digitali sempre più complessi con approcci pensati per un’altra epoca”, ha dichiarato l’azienda, aggiungendo che i team di sicurezza si trovano spesso a dover mettere insieme a fatica segnali e contesto sparsi tra enormi quantità di dati.
Con l’incidente di OpenAI ancora fresco, gli strumenti, per ora disponibili solo in versione preview, meritano una buona dose di prudenza, una cautela di cui Microsoft non ha fatto parola. Andrebbero esaminati e valutati con attenzione prima di finire in produzione. Dall’altra parte, però, ci sono rischi concreti anche nel non adottarli. Bilanciare i pericoli dell’uso di questi agenti AI contro la minaccia di rinunciarci resta un lavoro in corso, senza risposte chiare per il momento.