In questo articolo Indice dei contenuti 2 sezioni
Gli agenti AI stanno entrando nei processi aziendali con un ruolo che va ben oltre quello del semplice assistente conversazionale: leggono dati, scelgono cosa fare e agiscono direttamente sui sistemi interni. Ed è proprio questo passaggio, dal suggerire all’eseguire, che sposta il problema dal terreno tecnologico a quello della responsabilità. Perché quando un software decide autonomamente quale record aprire, quale operazione avviare o quale informazione conservare, il GDPR smette di essere un adempimento formale e diventa il perimetro dentro cui l’architettura va progettata. Il punto delicato riguarda la natura stessa di questi strumenti. Un agente non si limita a rispondere: interpreta un obiettivo, lo scompone in passaggi, interroga fonti diverse e produce un’azione concreta. In un’organizzazione questo significa toccare gestionali, archivi documentali, caselle di posta, database di clienti e fornitori. Tutto materiale che, nella quasi totalità dei casi, contiene dati personali. La conseguenza è immediata: chi introduce agenti in azienda deve sapere con precisione cosa possono vedere, cosa possono modificare e con quali limiti.
Permessi e memoria, il vero nodo tecnico
La gestione dei permessi è il primo terreno su cui si misura la solidità di un progetto. Un agente che eredita credenziali troppo ampie diventa una scorciatoia verso informazioni che nessun utente umano, in quella posizione, avrebbe potuto consultare. Non serve un attacco esterno per generare un problema, basta un profilo configurato con troppa generosità. Il principio di minimizzazione, che nel GDPR non è un dettaglio ma un pilastro, va tradotto in scelte concrete di progettazione: accessi circoscritti, separazione dei ruoli, tracciabilità delle operazioni compiute.
Poi c’è la questione della memoria, forse la più sottovalutata. Gli agenti tendono a conservare contesto per funzionare meglio, accumulando frammenti di conversazioni, documenti consultati, risultati intermedi. Quel contesto, però, non è neutro. Se contiene dati personali, allora esiste un trattamento che va documentato, limitato nel tempo e cancellabile su richiesta. Senza politiche chiare di conservazione, un sistema pensato per essere efficiente rischia di trasformarsi in un archivio parallelo, poco visibile e difficile da governare.
Decisioni automatizzate e obblighi già in vigore
Il capitolo delle decisioni automatizzate merita attenzione a parte. Quando un agente produce un esito che incide sulle persone, la normativa europea prevede garanzie precise, dalla trasparenza sulla logica applicata alla possibilità di ottenere un intervento umano. Non è una formalità burocratica: significa che l’organizzazione deve essere in grado di ricostruire perché il sistema ha agito in un certo modo, e di mettere qualcuno nella condizione di intervenire. Un requisito che, in pratica, va progettato prima di mettere l’agente in produzione, non aggiunto dopo.
Sul fronte regolamentare si è parlato molto del rinvio degli obblighi dell’AI Act relativi ai sistemi ad alto rischio. Un elemento che ha generato l’impressione, sbagliata, di una pausa generale. Le responsabilità già in vigore restano tutte, e riguardano la protezione dei dati, la sicurezza dei sistemi, la valutazione dei rischi, la definizione dei ruoli tra chi fornisce la tecnologia e chi la utilizza. Lo slittamento di alcune scadenze non sospende nulla di ciò che il quadro normativo esistente richiede già oggi.
Il risultato è un’agenda di lavoro piuttosto concreta per chi introduce l’intelligenza artificiale agentica nei propri processi: mappare le fonti dati raggiungibili, definire i confini operativi, stabilire quanto e per quanto tempo il sistema può ricordare, prevedere log affidabili e punti di controllo umano lungo il percorso. Non è un esercizio teorico, è la condizione per poter dimostrare, in caso di verifica, che l’automazione è stata governata e non semplicemente attivata.
