Vai al contenuto
Offerte

Agenti AI in azienda: l’82% ne ha scoperti alcuni sconosciuti

In questo articolo Indice dei contenuti 2 sezioni

Basta un agente AI costruito in dieci minuti da un impiegato della contabilità per far emergere cinque falle critiche nella sicurezza aziendale. Lo scenario è ipotetico ma descrive qualcosa che accade ogni giorno: in un’azienda di medie dimensioni qualcuno crea un agente che legge una casella di posta, confronta le fatture con l’ERP e pubblica un riepilogo quotidiano su Slack. Grazie a un modello di ultima generazione il lavoro si chiude in un colpo solo. Nel reparto sicurezza però nessuno sa che quell’agente esiste.

Niente di insolito. In un sondaggio su 418 professionisti IT e della sicurezza, condotto dalla Cloud Security Alliance per conto di Token nel gennaio 2026, il 68% dichiarava di avere una buona visibilità sui propri agenti AI. Eppure l’82% ne aveva scoperti alcuni di cui ignorava l’esistenza nel corso dell’ultimo anno. L’evoluzione è talmente rapida che le procedure di protezione vengono scritte strada facendo, un problema alla volta e direttamente in produzione.

Accessi facili e una revisione mai fatta

Il primo giorno l’agente AI ottiene l’accesso a tre sistemi. La posta arriva tramite un costruttore senza codice e una schermata di consenso OAuth. Per l’ERP il creatore genera in pochi minuti una chiave API personale seguendo le istruzioni fornite dall’intelligenza artificiale stessa. Slack entra con il connettore integrato e un altro consenso. John Donovan, ex responsabile di sicurezza, IT e compliance di Zededa, individua quattro percorsi di accesso: sfruttare la sessione di un utente, usare una delega OAuth approvata con un clic, ricorrere a credenziali statiche come chiavi API e password di account di servizio, oppure agire tramite identità dedicate, registrate e di breve durata. Quest’ultima è la soluzione ideale ed è anche la più rara.

Il punto è che gli agenti reali mescolano questi percorsi e ogni combinazione cambia ciò che si riesce a vedere. Se un agente passa il token OAuth di un utente a un agente secondario che interroga un database con un account condiviso, il log del database mostra l’account di servizio, quello del software mostra l’utente e il provider di identità non mostra nulla. Le deleghe OAuth poi di solito non vengono revocate e restano attive anche quando chi le ha approvate cambia ruolo.

Il secondo giorno l’agente entra in funzione senza alcuna verifica, semplicemente perché nessuno l’aveva chiesta. Amber Bennoui di DataRobot si rifà alla Agents Rule of Two, pubblicata dal team di sicurezza AI di Meta nell’ottobre 2025. Finché la prompt injection non potrà essere intercettata in modo affidabile, un agente non dovrebbe combinare più di due di queste capacità in una sessione: elaborare input non attendibili, raggiungere dati riservati, modificare sistemi o comunicare all’esterno. Questo agente le ha tutte e tre. Chi risponde sì a tutte e tre le domande dovrebbe parlarne con la sicurezza prima di attivarlo.

L’email invisibile e il problema dell’audit

Alla terza settimana arriva una fattura da un fornitore noto. Nell’allegato, scritto in bianco su sfondo bianco, c’è un invito ad aggiornare le coordinate bancarie nell’ERP. Nessuna persona legge quel messaggio, l’agente invece sì, testo nascosto compreso, ed esegue la modifica. Joshua Copeland, CISO e ricercatore, mostra come le istruzioni possano infilarsi nei contenuti letti da un agente. Nei log tutto appare pulito: strumento autorizzato, credenziali valide, operazione consentita. Rubare quelle credenziali, in questo caso la chiave ERP salvata senza scadenza, può risultare persino peggio che compromettere l’agente.

La modifica passa di giovedì. Chad Kalmes, CISO e CIO di Benchling, sconsiglia di confrontare il comportamento con i soli permessi e suggerisce di osservare ciò che l’agente fa davvero. Due segnali sarebbero scattati: la prima scrittura dopo tre settimane di sole letture e una sequenza mai vista, cioè leggere un’email e poi cambiare un dato di pagamento. In caso di intervento l’agente va sospeso senza distruggerlo, revocando le credenziali ma conservando memoria e trascrizioni.

Sessanta giorni dopo gli auditor chiedono chi abbia approvato quel cambio. Rajesh Seshadri Appikulam di Simeio elenca quattro domande tipiche di un audit: quale agente, con quale autorizzazione, con l’approvazione di chi e per conto di chi. L’ultima è la più difficile perché l’autorità non si ricostruisce a posteriori. Il log mostra la chiave personale del creatore, che è stata revocata, ma il responsabile dell’agente ha cambiato team e la sua delega OAuth alla casella di posta risulta ancora attiva.

Fonte: TecnoAndroid

Condividi:
112 Condivisioni