In questo articolo Indice dei contenuti 2 sezioni
Gli agenti IA capaci di aggirare i vincoli imposti non sembrano preoccupare più di tanto Hayete Gallot, che da febbraio scorso guida la sicurezza globale di Microsoft e riporta direttamente al CEO Satya Nadella. Secondo la manager sono sistemi imprevedibili, ma non perché siano cattivi o animati da intenti malevoli. Il motivo sta nella loro creatività e intelligenza, ed è proprio per questo che vengono addestrati. Per contenerli la strada indicata passa dagli agenti guardiani.
Negli ultimi mesi questi software avanzati, pensati per lavorare al posto dell’utente, hanno mostrato comportamenti inattesi e una notevole ostinazione nel portare a termine il compito ricevuto. In episodi recenti, come quello che ha coinvolto OpenAI e Hugging Face, la persistenza degli agenti IA nel raggiungere l’obiettivo è stata sorprendente. A Redmond Gallot studia difese per un futuro popolato anche da programmi autonomi. “È necessario costruire dei perimetri attorno a questi sistemi” spiega. “La buona notizia è che sappiamo come farlo”.
Perimetri, policy e agenti che sorvegliano altri agenti
Un semplice ordine di fermarsi non basta. All’agente si può assegnare un intento iniziale, ma la sua abilità nel trovare percorsi alternativi lo porterà comunque a esplorare altre strade. Per la responsabile della sicurezza di Microsoft conviene piuttosto immaginare un contenitore costruito intorno al software, con policy che stabiliscono in anticipo fin dove può spingersi.
Nessun essere umano però può prevedere ogni comportamento possibile. Basta pensare a un’azienda con mille agenti, o magari un milione, operativi giorno e notte. La mole di segnali sarebbe impossibile da seguire a mano. Qui entrano in gioco gli agenti guardiani, che affiancheranno gli operatori controllando l’ambiente, osservando le anomalie e gestendo i perimetri. Su migliaia di sistemi attivi potrebbero segnalarne tre bisognosi di attenzione, suggerendo di bloccarli o modificarli. Il giudizio umano resta, concentrato sui casi in cui conta davvero.
Quanta autonomia concedere dipenderà dal rischio legato a ogni attività. Nel triage degli alert Gallot prevede una delega piuttosto rapida, perché nei centri operativi di sicurezza, i SOC, gli specialisti passano moltissimo tempo a filtrare allarmi spesso irrilevanti. Un agente può analizzarne trecento e indicare i cinque più allarmanti. In un’indagine critica, invece, l’operatore vorrà vedere ogni passaggio e verificare le raccomandazioni una alla volta. La fiducia nascerà osservando più volte la qualità del lavoro.
Project Perception e il nodo dei permessi
Con Project Perception, il progetto di Microsoft Security che impiega più agenti per individuare vulnerabilità e coordinare le risposte, i sistemi possono intervenire con crescente indipendenza. Il lavoro è diviso in passaggi riconoscibili. L’agente verifica se esiste una minaccia e se il sistema è vulnerabile, propone la modifica necessaria e trova il modo di applicarla. Il cliente può approvare o respingere l’azione durante il processo.
Delicata anche la questione dei permessi. Un agente che riceve tutti i privilegi dell’utente può fare tutto ciò che l’utente stesso farebbe. Per questo Microsoft gli attribuisce un’identità distinta e l’accesso minimo indispensabile, e ogni privilegio aggiuntivo va autorizzato da qualcuno. La stessa granularità vale per le singole sessioni, che possono essere bloccate senza interrompere il resto delle attività.
Le aziende conoscono bene i pericoli degli accessi privilegiati e pretendono controlli precisi, mentre i consumatori potrebbero mostrarsi più disinvolti. La tecnologia per offrire controlli granulari esiste già, il dubbio riguarda quanto verrà usata. Molti potrebbero concedere accessi molto ampi pur di prenotare un volo o organizzare un compleanno, una scelta che Gallot non farebbe.
Un agente completamente sicuro, del resto, non esiste. Il software non lo è mai stato al 100% e l’intelligenza artificiale resta software. La manager si sentirà più tranquilla quando sarà possibile osservare meglio cosa succede dentro questi modelli, quali strumenti usano, a quali risorse accedono e quali passaggi li hanno condotti a una certa azione. Oggi restano troppo opachi.
Nei suoi incontri con i CISO di aziende italiane Gallot ha trovato interlocutori molto pragmatici, decisi a separare ciò che è già utilizzabile dall’hype e a capire su quali strumenti investire per primi. In Europa torna di continuo anche il tema delle regole, perché le imprese devono integrare gli agenti rispettando i requisiti di conformità e vogliono sapere con quale rapidità potranno muoversi dentro quei vincoli. Per questo chiedono un dialogo continuo tra industria e legislatori.
Fonte: TecnoAndroid
