Vai al contenuto
Offerte

Sorveglianza umana sull’IA: perché il rinvio UE non basta?

In questo articolo Indice dei contenuti 2 sezioni

La sorveglianza umana nei sistemi di intelligenza artificiale resta un tema da affrontare subito, anche se il calendario europeo ha spostato in avanti alcune scadenze. Il rinvio degli obblighi previsti per i sistemi ad alto rischio potrebbe sembrare a prima vista un via libera ad aspettare, ma la realtà è diversa. Chi sviluppa o utilizza queste tecnologie ha tutto l’interesse a predisporre fin d’ora misure concrete e soprattutto prove documentali che dimostrino come il controllo da parte delle persone sia effettivo e non soltanto dichiarato sulla carta.

Il punto è piuttosto semplice da capire anche per chi non mastica diritto tutti i giorni. Uno slittamento dei tempi a livello europeo non cancella il principio di fondo, cioè che dietro a un algoritmo capace di incidere sulla vita delle persone debba esserci qualcuno in grado di vigilare, intervenire e se necessario correggere la rotta. Rimandare un adempimento formale non significa che la supervisione umana diventi improvvisamente facoltativa.

Perché il rinvio europeo non basta a fermare tutto

A rendere la questione già concreta contribuiscono diversi elementi che lavorano insieme. Il primo riguarda i decreti italiani, che sul fronte nazionale hanno già messo nero su bianco un quadro di riferimento con cui imprese e amministrazioni devono fare i conti. Non si tratta quindi di attendere passivamente che Bruxelles completi il proprio percorso, perché sul territorio esistono già regole che spingono nella stessa direzione.

C’è poi il nodo delle responsabilità, che si distribuiscono lungo tutta la filiera. Da una parte ci sono i fornitori, ossia chi progetta e immette sul mercato il sistema. Dall’altra ci sono i deployer, termine ormai entrato nel lessico di settore per indicare chi quel sistema lo adotta e lo mette in funzione nella propria organizzazione. Entrambi hanno un ruolo preciso nel garantire che la sorveglianza umana funzioni davvero, e nessuno dei due può scaricare interamente il peso sull’altro.

Questa divisione dei compiti ha una conseguenza pratica non da poco. Ciascun soggetto deve essere in grado di mostrare cosa ha fatto, quali accorgimenti ha previsto e in che modo le persone coinvolte possono intervenire sul funzionamento della macchina. Senza tracce scritte, anche le buone intenzioni rischiano di restare invisibili.

Il ruolo della FRIA e del controllo documentato

Un altro tassello fondamentale è la FRIA, la valutazione d’impatto sui diritti fondamentali. È proprio attraverso questo strumento che la vigilanza umana trova una collocazione formale all’interno dei processi aziendali e pubblici. La valutazione obbliga infatti a ragionare in anticipo sugli effetti che un sistema può produrre sulle persone e a indicare quali presidi vengono adottati per contenere eventuali danni.

Ed è qui che entra in gioco il concetto di controllo documentato. Non basta affermare che un operatore umano sorveglia l’attività dell’algoritmo, occorre poterlo dimostrare con atti, procedure e registrazioni verificabili. La documentazione diventa così una sorta di prova dell’impegno assunto, utile sia nei rapporti interni sia di fronte a eventuali verifiche esterne.

Tutti questi fattori messi insieme, cioè i decreti nazionali, le responsabilità condivise tra chi fornisce e chi impiega la tecnologia e l’obbligo di valutare l’impatto sui diritti, fanno sì che la supervisione umana documentata rappresenti già oggi un presidio rilevante. Il rinvio degli obblighi europei per i sistemi ad alto rischio, insomma, non elimina la necessità di organizzarsi da subito con misure e prove adeguate sul controllo esercitato dalle persone.

Fonte: TecnoAndroid

Condividi:
158 Condivisioni