In questo articolo Indice dei contenuti 3 sezioni
Sull’uso dell’intelligenza artificiale nelle indagini il Garante della Privacy chiede al Legislatore di mettere nero su bianco delle regole, e lo fa con un accento particolare sul riconoscimento facciale. Pasquale Stanzione, che dell’Autorità è il presidente, non parte da una posizione di chiusura: strumenti del genere possono servire, e parecchio, a chi conduce attività investigative. Il punto è come vengono usati, entro quali confini e con quali garanzie. Perché la stessa tecnologia che aiuta a identificare un sospettato può, se lasciata senza paletti, diventare qualcosa di molto diverso.
Il timore espresso dal Garante Privacy è che questi sistemi finiscano per trasformarsi in strumenti di sorveglianza massiva e indiscriminata. Non un controllo mirato su una persona specifica nell’ambito di un procedimento, ma una rete gettata sull’intera popolazione. E le conseguenze, in quel caso, ricadono direttamente sulla libertà dei cittadini, non su un’astrazione giuridica.
Il nodo del riconoscimento facciale e della discriminazione algoritmica
Il riconoscimento facciale è il terreno su cui si concentra buona parte del ragionamento. Uno strumento utile in ambito investigativo, dice Stanzione, ma solo se impiegato in modo circoscritto. Tradotto: casi definiti, presupposti chiari, controlli. Tutto il resto rischia di scivolare in una zona grigia dove la tecnologia corre più veloce delle norme che dovrebbero contenerla.
C’è poi un problema meno visibile ma altrettanto serio, quello della discriminazione algoritmica. Si tratta della possibilità che le decisioni prodotte da questi sistemi penalizzino in modo ingiusto determinate persone o intere categorie. Non per una volontà precisa di qualcuno, ma per come funzionano i meccanismi automatici che elaborano i dati. Quando una cosa del genere accade in un contesto commerciale può creare un danno economico. Quando accade nell’attività di polizia, invece, tocca direttamente la libertà e la dignità personale di chi si trova dall’altra parte. La differenza non è piccola.
Falsi positivi, banche dati e i limiti dei sistemi automatici
L’elenco dei pericoli tracciato dall’Autorità va oltre. C’è l’uso indebito o scorretto delle banche dati, cioè informazioni consultate o incrociate fuori dai casi previsti. Ci sono i falsi positivi, le identificazioni errate che colpiscono persone del tutto innocenti e che, in un procedimento, possono avere effetti pesanti. Ci sono gli errori di identificazione legati ai limiti intrinseci dei sistemi automatizzati, che per quanto avanzati restano macchine addestrate su dati imperfetti. E ci sono, appunto, i risultati discriminatori prodotti dagli algoritmi.
Stanzione insiste su un passaggio che spesso viene dato per scontato nel dibattito pubblico: la grande capacità analitica dell’intelligenza artificiale è certamente un punto di forza, ma non la rende immune dagli errori. Il fatto che un sistema elabori milioni di dati in pochi secondi non significa che ciò che produce sia sempre corretto. È una precisazione che pesa, soprattutto in un contesto dove il risultato di un’analisi automatica può essere trattato come una verità oggettiva.
Dove passa il confine secondo l’Autorità
La richiesta finale è concreta: introdurre misure specifiche capaci di ridurre questi rischi. Non un divieto generalizzato, ma un perimetro. Il Garante parla esplicitamente di tracciare un confine netto tra l’uso legittimo della tecnologia a fini investigativi e quella che definisce una progressiva e ingiustificata perdita di libertà. Un’erosione lenta, insomma, che non arriva con un provvedimento clamoroso ma si accumula un pezzetto alla volta.
Il giudizio su cosa accadrebbe superando quella soglia è netto. Secondo Stanzione, andare oltre significherebbe “negare il senso stesso della democrazia”. Una formula che chiude il ragionamento senza lasciare margini interpretativi e che sposta la questione dal piano puramente tecnico a quello delle garanzie costituzionali, chiamando in causa chi ha il compito di scrivere le regole.
