I modelli di deep learning che si basano sull’IA riescono a identificare l’etnia di un essere umano. Come? Semplicemente dai raggi X, un processo che neanche i medici umani riescono a fare. Questa è una scoperta che desta non poche preoccupazioni in ambito medico ma soprattutto etico, per via dei pregiudizi raziali nella diagnosi, nella valutazione e nel trattamento medico. Scopriamo maggiori dettagli di seguito.
Medicina e tecnologia: le preoccupazioni che desta l’IA
Lo studio è incominciato nel momento in cui un team di ricercatori ha addestrato la sua AI usando moltissime immagini a raggi X di centinaia di persone esistenti, dove veniva prontamente etichettata l’etnia. I ricercatori hanno qui proposto all’IA queste informazioni, tuttavia l’obiettivo non era quello di riconoscerli durante questi esami specifici.
Ciononostante, si è scoperto che l’intelligenza artificiale riesce a fare anche questo, ossia prevedere l’identità etnica del paziente con molta precisione, anche quando le scansioni sono state fatte da persone della stessa età e dello stesso sesso. Inoltre, si è arrivati anche a livelli del 90% di precisione con alcuni gruppi d’immagini.
Gli esperti ancora oggi non sono sicuri di come l’IA sia riuscito ad identificare con così tanta precisione l’etnia delle immagini che le venivano proposte, soprattutto perché non contenevano questa tipologia d’informazioni.
Anche quando la fornitura d’informazioni è illimitata, eliminando indizi sulla densità ossea o andandosi a focalizzare su una determina e piccola parte del corpo, i modelli sono riusciti ugualmente a comportarsi in una maniera corretta.
“La nostra scoperta indica che l’IA può prevedere con precisione l’etnia umana auto-riferita, anche da immagini mediche danneggiate, ritagliate e rumorose, spesso quando gli esperti clinici non possono. [Questo] crea un rischio enorme per tutte le implementazioni di modelli nell’imaging medico“, scrivono i ricercatori.