In questo articolo Indice dei contenuti 2 sezioni
Quando si parla di cartelle cliniche e agenti AI, la domanda che conta davvero non è cosa questi sistemi sappiano fare, ma chi tenga sotto controllo gli accessi e le azioni che compiono. Perché l’intelligenza artificiale agentica, quella che non si limita a suggerire ma agisce, dentro un ospedale o una struttura sanitaria si muove tra dati sensibili, sistemi clinici e flussi amministrativi. E lì il margine di errore si restringe parecchio.
La differenza rispetto ai modelli tradizionali sta tutta nel verbo. Un assistente conversazionale risponde, un agente opera. Apre un record, aggiorna un campo, avvia una procedura, dialoga con altri software. Ogni singolo passaggio è un’azione che lascia un segno nei sistemi, e che quindi va tracciata, autorizzata, ricondotta a qualcuno. Il salto operativo è evidente e le opportunità pure, dalla riduzione del lavoro ripetitivo alla velocizzazione di pratiche che oggi assorbono tempo prezioso al personale sanitario. Ma insieme alle opportunità arrivano rischi di natura diversa, più difficili da inquadrare con gli strumenti di sicurezza pensati per gli utenti umani.
Identità gestite e privilegi minimi, il nodo tecnico
Il primo tema è quello dell’identità digitale. Un agente AI che accede alle cartelle cliniche non può essere un’entità anonima o, peggio, nascosta dietro le credenziali di un professionista. Serve un’identità propria, gestita, censita, revocabile. Solo così diventa possibile capire chi ha fatto cosa e quando, distinguendo l’azione automatica da quella umana.
Da qui si arriva al secondo pilastro, il principio dei privilegi minimi. Nessun agente dovrebbe avere più permessi di quanti ne servano per il compito assegnato. Se un sistema deve consultare referti di laboratorio, non ha ragione di poter modificare anagrafiche o accedere a interi archivi storici. Sembra banale, ma è esattamente il punto in cui molte implementazioni scivolano, perché concedere accessi ampi è più rapido e comodo che ritagliare permessi su misura. Il problema si presenta poi, quando qualcosa va storto e il perimetro dei danni potenziali risulta enormemente più largo del necessario.
Monitoraggio continuo e responsabilità che resta umana
Nessun sistema di controllo funziona se resta fermo al momento della configurazione. Il monitoraggio continuo serve proprio a questo, a osservare nel tempo il comportamento degli agenti, a intercettare anomalie, accessi fuori schema, sequenze di azioni che non corrispondono alle attività previste. In un contesto dove i dati riguardano la salute delle persone, accorgersi di un problema con settimane di ritardo equivale spesso a non accorgersene affatto.
Poi c’è la questione più delicata, quella della responsabilità umana. L’automazione può eseguire, ma non può assumersi le conseguenze di ciò che esegue. La catena decisionale deve restare ancorata a persone identificabili, con ruoli chiari e capacità reale di intervenire, fermare, correggere. Non una supervisione formale, di quelle che esistono sulla carta e nella pratica si riducono a una firma, ma un presidio effettivo su cosa gli agenti fanno e perché.
La sanità, del resto, lavora su informazioni che appartengono alla categoria più protetta in assoluto. Le cartelle cliniche raccontano storie personali, diagnosi, terapie, fragilità. Aprirle a sistemi che agiscono in autonomia richiede una governance costruita prima, non aggiustata dopo il primo incidente. Identità gestite, permessi ridotti all’essenziale, controllo costante e una linea di responsabilità che non si perda nei passaggi tra fornitori, reparti e piattaforme. Gli agenti AI, in questo scenario, non sono strumenti neutri da installare e dimenticare. Sono attori operativi dentro processi critici, e come tali vanno trattati.
