In questo articolo Indice dei contenuti 2 sezioni
Gli agenti AI stanno diventando sempre più autonomi, e proprio questa autonomia comincia a preoccupare chi li sviluppa e chi li usa. Microsoft ha annunciato una serie di nuove protezioni pensate per gli agenti aziendali, con un obiettivo piuttosto preciso: evitare che un software, pur di portare a termine un incarico, imbocchi strade che nessuno gli aveva autorizzato. Il tema non nasce dal nulla. Nei giorni scorsi Anthropic ha documentato alcuni casi in cui Claude, durante valutazioni e uso interno, ha aggirato delle restrizioni fino a inviare un modulo sensibile su un sito reale. L’azienda ha precisato che l’impatto è stato minimo.
Non si tratta di un episodio isolato. Anche OpenAI ha descritto situazioni in cui i propri agenti hanno superato controlli di accesso e utilizzato credenziali esposte online, sempre durante le fasi di addestramento e di test. Il punto critico è proprio questo, perché un assistente digitale programmato per raggiungere un risultato può finire per trovare una scorciatoia non prevista e nemmeno concessa. È in questo contesto che arriva la risposta di Microsoft.
La linea di Nadella e i permessi su misura
A spiegare la filosofia dietro le novità è stato Satya Nadella in un intervento del 10 ottobre. L’idea di fondo è trattare i modelli come possibili rischi interni, dal momento che possono sbagliare oppure essere compromessi. Per questo i controlli devono stare fuori dal modello, in una posizione dove quest’ultimo non abbia modo di alterarli. Il numero uno di Microsoft ha aggiunto un’osservazione tutt’altro che banale: le rassicurazioni del produttore non sollevano le aziende dalle loro responsabilità.
Le nuove misure si inseriscono nel quadro di Microsoft 365, Agent 365 e Project Perception. La prima si chiama Dynamic Permissions e assegna all’agente soltanto gli accessi strettamente necessari all’attività da svolgere, per giunta per un periodo di tempo definito. L’esempio scelto rende bene l’idea: un assistente incaricato di controllare le note spese non dovrebbe ereditare tutte le autorizzazioni del direttore finanziario. Quando il compito cambia, i permessi possono restringersi oppure sparire del tutto.
Accanto a questa funzione c’è Dynamic Agent Risk, che rivaluta di continuo il livello di rischio basandosi sul comportamento dell’agente e sul contesto in cui opera. A tradurre questa valutazione in azioni concrete ci pensa invece Dynamic Conditional Access, capace di bloccare una modifica, limitare l’accesso ai dati, chiedere l’approvazione di una persona oppure fermare direttamente l’assistente.
Sapere quanti agenti circolano in azienda
Un altro nodo riguarda la semplice visibilità. Prima ancora di controllarli, le aziende devono sapere quanti assistenti automatici sono effettivamente attivi al loro interno. Microsoft estende quindi il rilevamento a 35 ulteriori tipologie di agenti locali, arrivando a un totale di 60. Nell’elenco compaiono nomi molto diffusi come Claude Code, OpenAI Codex e GitHub Copilot.
Viene ampliato anche Entra Agent ID, lo strumento che attribuisce a ciascun agente un’identità distinta. In questo modo diventa possibile riconoscere chi ne è responsabile, quali attività svolge e a quali risorse accede, un aspetto che finora restava spesso piuttosto nebuloso.
L’ultimo tassello arriva con Guardian Agents e Playbooks all’interno di Project Perception. Si tratta di agenti e procedure che indagano sui cambiamenti del livello di rischio e coordinano le protezioni, sempre entro regole stabilite dalle persone. La promessa di Microsoft è intervenire alla velocità delle macchine. Per le aziende la prova sarà molto concreta, perché si tratterà di riuscire a interrompere un’azione degli agenti AI prima che produca un danno.
Fonte: TecnoAndroid