Le nostre vite sono invischiate in sistemi che non possiamo comprendere appieno. Spiegare come questi sistemi funzionano e l’effetto che hanno non è facile. Però è ciò che i professori Kate Crawford e Vladan Joler hanno tentato di fare, con il progetto presentato al Victoria & Albert Museum di Londra analizzando Amazon Echo.
L’opera principale è un’enorme mappa, alta due metri e larga cinque, che traccia i sistemi utilizzati per alimentare uno dei prodotti più complessi del quotidiano: un noto gadget alimentato dall’IA, ossia Amazon Echo. È un insieme di linee in bianco e nero, e assomiglia più agli schemi di un reattore nucleare che al sistema di uno Smart Speaker. La stampa si chiama Anatomia di un sistema di intelligenza artificiale, e il sottotitolo spiega il suo scopo: “Amazon Echo visto come una mappa anatomica del lavoro umano, dei dati e delle risorse.
Non c’è molta consapevolezza sull’Intelligenza Artificiale. “Abbiamo bisogno di avere una conversazione profonda e più complessa sulle implicazioni della costruzione dell’intelligenza artificiale su larga scala”, dice Crawford. Perché scegliere proprio Echo? Poiché sembra semplice, è piccolo, ma trattasi di un intero sistema infrastrutturale che non si vede. Basta dare un semplice comando vocale – “Alexa, spegni le luci” – e sembra una magia. La prima parte della mappa mostra proprio come Amazon Echo raccoglie dati e feedback dagli utenti.
Amazon Echo è uno dei tanti device con Intelligenza Artificiale, ma sappiamo davvero com’è fatto e come funziona?
L’Intelligenza Artificiale è rivoluzionaria. Innanzitutto, sta operando a un livello che inizia a cambiare il modo in cui la società stessa funziona, ad esempio in campo sanitario. Inoltre, il consumatore è diverso. I consumatori esistono in uno stato ibrido. Sono qualcuno che acquista un prodotto ma anche una risorsa, in quanto i loro comandi vocali vengono conservati e analizzati. Sono anche lavoratori nel senso che stanno fornendo lavoro non retribuito dando feedback al sistema. Le loro risposte aiutano a valutare l’accuratezza, l’utilità e la qualità dell’IA. E sono anche un prodotto in quanto tutti i loro interessi [acquisiti tramite queste interazioni] diventano un profilo che puoi vendere agli inserzionisti. Questa combinazione di essere un consumatore, un lavoratore, una risorsa e un prodotto è qualcosa di molto nuovo.
Inoltre, l’anatomia del dispositivo è divisa in tre sistemi, ognuno dei quali viene definito “processo estrattivo“. Esiste un processo estrattivo per le risorse materiali, uno per i dati e l’altro per il lavoro umano. Tutti questi processi estraggono in modi diversi. I costi sono spesso oscurati all’utente finale e occorrono anni per essere pienamente compresi. Infatti Echo è un tipo di scatola nera difficile: un utente non può vedere come funziona, come registra i dati o come vengono addestrati i suoi algoritmi. Poi c’è la logistica nascosta su come i componenti al suo interno vengono raccolti, fusi e assemblati, attraverso più livelli di appaltatori, distributori e produttori di componenti.
Tra l’altro, consideriamo ad esempio il CEO di Amazon, Jeff Bezos. Egli ha realizzato una media di 275 milioni di dollari al giorno durante i primi cinque mesi del 2018. Amnesty ha pubblicato un rapporto sul lavoro minorile nelle miniere congolesi in cui viene tracciato il cobalto per le batterie agli ioni di litio poi utilizzate. Un bambino in una di quelle miniere di cobalto avrebbe dovuto lavorare per circa 700.000 anni senza sosta per guadagnare lo stesso ammontare di un solo giorno del reddito di Bezos. Questi tipi di disuguaglianza si ripetono anche per produrre l’IA. Quindi ci sono pro ma anche contro.
Precisiamo infine che la mappa sull’anatomia di un sistema di intelligenza artificiale di Kate Crawford e Vladan Joler può essere vista al Victoria and Albert Museum di Londra come parte della mostra Artificial Intelligent. Puoi anche esplorare la mappa e leggere il saggio di accompagnamento sul sito web di Anatomy.
