Che i sistemi di raccomandazione stiano cambiando il modo in cui le persone scelgono dove andare a mangiare, bere un caffè o passare il tempo libero non è più solo un sospetto. Uno studio tutto italiano, il primo al mondo nel suo genere, ha dimostrato come l’algoritmo che suggerisce luoghi da visitare su piattaforme come Google Maps o TripAdvisor stia di fatto appiattendo le scelte collettive, spingendo tutti verso gli stessi posti. E il bello è che ognuno, preso singolarmente, ha l’impressione di esplorare di più.
Google Maps: la ricerca italiana che svela il paradosso
Tre ricercatori italiani hanno costruito una semi-simulazione capace di mettere a nudo il meccanismo. Luca Pappalardo e Marco Minici del Cnr, insieme a Giovanni Mauro della Scuola Normale Superiore di Pisa, hanno modellato il ciclo di retroazione tra sistemi di raccomandazione basati sull’intelligenza artificiale e comportamenti umani, provando a capire di chi sia davvero la responsabilità. Il loro studio, pubblicato sulla rivista Machine Learning, non si limita a valutare quanto gli algoritmi siano precisi nell’azzeccare i gusti delle persone. Va molto più in là: indaga come questi strumenti stiano plasmando la società, con la piena complicità di chi li usa ogni giorno.
I risultati sono interessanti e, a tratti, contraddittori. Sul piano individuale, i sistemi di raccomandazione funzionano, Invitano a scoprire posti nuovi e ogni persona finisce per visitare una maggiore varietà di luoghi. Sul piano collettivo, però, il traffico si concentra su un numero sempre più ristretto di destinazioni popolari. Dai dati storici analizzati è emerso che il 10% dei luoghi più frequentati attraeva il 33% delle visite totali. Simulando uno scenario in cui le persone accettano il 100% dei suggerimenti dell’algoritmo, quella percentuale schizza al 57%. È il classico effetto per cui i posti già famosi diventano ancora più famosi, mentre quelli meno conosciuti restano praticamente invisibili.
E non finisce qui. Le scelte delle persone diventano sempre più omogenee tra loro. Confrontando le sequenze di visite prima e dopo la simulazione, la somiglianza tra i percorsi aumenta in modo drastico. In pratica, la tecnologia adottata in massa ha un effetto uniformante: l’unicità dell’utente si dissolve. Cresce anche la cosiddetta co-location, ovvero la tendenza a ritrovarsi tutti negli stessi posti, negli stessi momenti.
Come è stato condotto lo studio e perché è così rilevante
Per arrivare a queste conclusioni, i ricercatori hanno dovuto aggirare un problema non da poco: la mancanza di trasparenza degli algoritmi delle grandi piattaforme. Come spiega Pappalardo, l’ideale sarebbe conoscere nel dettaglio gli algoritmi che stanno dietro a Google Maps. Secondo l’Unione europea, grazie al Digital Services Act, piattaforme come queste dovrebbero stimare il rischio che i propri algoritmi pongono all’ambiente urbano. Ma finora è stato fatto poco o nulla in questa direzione.
Il team ha quindi implementato gli algoritmi più diffusi nel settore, cercando eventuali dinamiche universali. E le ha trovate. Sono state utilizzate informazioni reali sulle visite delle persone in vari tipi di luoghi (ristoranti, negozi, stazioni, musei), ottenute da social network basati sulla geolocalizzazione e relative alle città di New York e Tokyo: due megalopoli, due culture profondamente diverse. Quei dati hanno alimentato sistemi di machine learning addestrati sulle abitudini individuali e collettive. Poi è stata simulata l’esperienza di persone con esigenze diverse, dal pub alla palestra, dalla pizzeria al ristorante di sushi. La richiesta era generica e l’algoritmo decideva dove mandare ciascuno. Facendo variare il tasso di adozione, cioè la probabilità che una persona seguisse davvero il suggerimento oppure lo ignorasse, è stato possibile studiare come cambiano diversità individuale, diversità collettiva e omogeneizzazione.
Come sottolinea Mauro, l’elemento di novità sta proprio nella semi-simulazione: è la prima volta che si modella un ciclo di retroazione in ambito urbano considerando esplicitamente il ruolo dell’intelligenza artificiale e, soprattutto, cosa succede quando l’utente decide di rifiutare il suggerimento. Perché ogni decisione presa da una persona diventa parte della storia digitale su cui i sistemi di raccomandazione calcolano i suggerimenti futuri.
Servono regole, non solo tecnologia migliore
Dopo aver messo in luce questo ciclo continuo, i ricercatori hanno esplorato anche i tentativi attuali di spezzarlo. Esistono filoni di ricerca che puntano a ridurre il cosiddetto popularity bias nei sistemi di raccomandazione, ma secondo Mauro non bastano. Questi approcci mirano sempre ad aumentare la diversità per il singolo individuo, in modo da non annoiarlo con suggerimenti ripetitivi, senza però considerare metriche come l’omogeneizzazione e la diversità collettiva. Servirebbero sistemi adattivi e multi-obiettivo, capaci di intervenire quando la diversità collettiva inizia a precipitare.
Usare l’intelligenza artificiale per risolvere un problema generato dall’intelligenza artificiale non è affatto semplice: c’è un livello individuale, uno sociale e uno economico, guidato dagli interessi di chi progetta e fornisce il servizio. Raramente questi tre livelli coincidono. Per Mauro serve identificare un sistema di valori di riferimento, evitando il tecnosoluzionismo. La soluzione non può essere solo tecnologica: servono regolamenti e policy che obblighino le piattaforme a non ottimizzare soltanto profitto ed engagement, ma ad avere un’ottica rispettosa di valori che la società definisce collettivamente.
Lo studio è stato finanziato dal Ministero dell’Università e della Ricerca (Mur) nell’ambito del progetto Urbai (Urban Artificial Intelligence) e rappresenta il punto di partenza di Caio (City-AI Coevolution), un nuovo capitolo finanziato sempre dal Mur attraverso il Fondo italiano per la scienza. Gli autori hanno annunciato la ferma volontà di continuare a indagare nella direzione tracciata dal Digital Services Act, che impone alle piattaforme di valutare l’impatto dei propri algoritmi. Questa iniziativa, a loro avviso, può aiutare a stimare con sempre maggiore precisione il contributo che ogni utente dà ogni volta che si fida di un suggerimento basato sull’intelligenza artificiale invece che del passaparola o dell’istinto.