Il riconoscimento facciale ha combinato un pasticcio non da poco a una donna dell’Indiana, arrivando addirittura a bloccarle il rinnovo della patente. Il motivo? Il sistema era convinto di aver trovato qualcosa che, se fosse stato vero, avrebbe potuto portarla dritta in una cella. E tutto per una questione di somiglianza tra due volti.
Capita più o meno a tutti, prima o poi, di sentirsi dire che si assomiglia a qualcuno. Un tizio incrociato al bar, una faccia vista di sfuggita in metropolitana, qualcuno che ha proprio la nostra stessa espressione. Roba da sorriderci sopra, di solito. Ma per Erika Brown, 31 anni, la faccenda ha preso una piega decisamente meno divertente. Quella somiglianza, infatti, ha finito per intralciare una pratica burocratica banalissima nel momento in cui a esaminarla non è stato un funzionario in carne e ossa, ma un software.
Due sconosciute che neanche la macchina distingue
Il nocciolo della vicenda sta tutto qui. Un algoritmo di riconoscimento facciale ha confrontato l’immagine della donna con quelle presenti nei propri archivi e, invece di riconoscerla per quello che era, ha stabilito una corrispondenza che a lei è costata caro. Il sistema, insomma, ha visto due volti così simili da non riuscire a metterli in fila come persone diverse. Due sconosciute, praticamente identiche agli occhi della macchina.
Ed è proprio questo il punto che fa riflettere. Quando a decidere è un occhio umano, un margine di buonsenso resta sempre. Ci si ferma, si guarda meglio, si valuta il contesto. Un computer, invece, macina dati e restituisce una risposta secca, senza sfumature. E se quella risposta è sbagliata, le conseguenze ricadono su chi si trova dall’altra parte dello sportello, magari senza nemmeno capire cosa stia succedendo.
La storia di Erika Brown mette in luce un problema che diventa sempre più concreto man mano che questi strumenti entrano nella vita quotidiana. Rinnovare la patente dovrebbe essere una delle operazioni più noiose e prevedibili che esistano. Eppure, affidata a un sistema automatizzato che scambia una persona per un’altra, può trasformarsi in un incubo. E non un incubo qualsiasi, visto che l’errore avrebbe potuto avere risvolti ben più seri di una semplice pratica sospesa.
Resta il fatto che una donna dell’Indiana si è ritrovata bloccata da una tecnologia che, sulla carta, dovrebbe rendere tutto più rapido e sicuro. Un promemoria di come questi sistemi, per quanto sofisticati, possano sbagliare in modo clamoroso quando due volti si somigliano troppo perché anche la più avanzata delle intelligenze artificiali riesca a tenerli separati.
