Uno studio della professoressa Londa Schiebinger e del collega James Zou dell’università di Stanford sta cercando di stabilire come insegnare a un’intelligenza artificiale la diversità delle razze e il valore della libertà dai preconcetti culturali che inevitabilmente assorbe dai Big Data.
Il progetto “Gendered Innovations in science, health and medicine, engineering and environment” diretto dalla Schiebinger è la base da cui far partire questo ragionamento, tra l’altro pubblicato su Nature, poiché una serie di problemi strutturali affligge lo sviluppo di software d’intelligenza artificiale. Un esempio è il programma di riconoscimento facciale usato dalla Nikon, il quale classifica grossolanamente come asiatiche le persone con gli occhi socchiusi.
Altri sistemi di riconoscimento facciale già in commercio sbagliano spesso il sesso delle donne di colore rispetto all’errore prossimo allo zero quando le donne sono di carnagione chiara. Se il linguaggio, la cultura e l’interpretazione del diverso finiscono come sono nel machine learning, allora poi non ci dobbiamo lamentare se una AI avrà una percezione di noi umani distorta. I programmi costruiti attorno ad essi altro non sono che lo specchio delle nostre inclinazioni.
Se l’Intelligenza artificiale è razzista: cosa si pensa del primo giudice?
In Estonia invece non si stanno ponendo così tanti problemi in merito alle considerazione della professoressa Schiebinger, laddove il governo estone ha adottato un giudice-robot dotato di AI. Va detto che nel Paese baltico sono più di vent’anni che la tecnologia è compenetrata nelle vite dei cittadini, e per questo gli Estoni non vedono niente di rivoluzionario nel creare sistemi per risolvere in maniera autonoma le piccole controversie legali che intasano il tribunale.
L’Estonia ha pertanto deciso di verificare sul campo l’applicazione di un’intelligenza artificiale per confrontare i dati sottoposti dalle parti e giungere a una conclusione non solo di legittimità ma anche di merito nelle controversie. Se una delle parti si oppone al giudizio del robot si potrà comunque ricorrere all'”operatore umano”.
Ricordiamo che la disponibilità di una infrastruttura informatica così avanzata ha portato l’Estonia a essere un paese sostanzialmente “paperless” (non usano la carta), laddove la documentazione anche dei processi è stata digitalizzata. Non un sistema intelligente nel senso rivoluzionario del termine, ma un modo per rendere autonomi giudizi non risolvibili in maniera automatica su cause di piccola entità. Un tipo di giudizi che da anni intasa le aule dei tribunali che ora potrebbero sparire.
Il Ministero della giustizia estone ha deciso di alleggerire il lavoro dei giudici e delle cancellerie utilizzando un sistema di intelligenza artificiale. L’obiettivo è di trasformare la pubblica amministrazione e i poteri dello Stato in una serie di strutture leggere e funzionali. L’iniziativa del Ministero vuole allinearsi a quanto già fatto dai servizi pubblici, i quali sono disponibili online. Vige anche un sistema di identità digitale nazionale collegato alla firma digitale per operare in maniera sicura in ogni aspetto della fiscalità