In questo articolo Indice dei contenuti 2 sezioni
L’uso prolungato dell’intelligenza artificiale potrebbe lasciare segni molto più profondi di quanto si immagini, e non parliamo di occhi stanchi o di dipendenza dallo smartphone. Un gruppo di ricercatori ha provato a guardare oltre la superficie, andando a cercare le conseguenze emotive e personali di una tecnologia che ormai accompagna acquisti, richieste di assistenza, conversazioni quotidiane. La tesi è insieme semplice e spiazzante: a forza di parlare con le macchine, le persone rischiano di iniziare a comportarsi un po’ come loro.
Lo studio, pubblicato su AI & Society, si concentra in particolare sugli agenti conversazionali usati nell’assistenza clienti. Quei sistemi cortesi, sempre disponibili, capaci di rispondere con il tono giusto anche alle tre di notte. Secondo i ricercatori, l’esposizione ripetuta a questi agenti di servizio spingerebbe gli utenti ad adottare schemi comportamentali che le macchine riescono a elaborare più facilmente, arrivando a imitarne il modo di comunicare e di interagire. Un adattamento silenzioso, quasi impercettibile, che si consolida conversazione dopo conversazione.
Il meccanismo in tre fasi descritto dai ricercatori
“Con l’ingresso dei sistemi generativi e degli agenti di servizio socialmente reattivi nel consumo quotidiano, l’interazione uomo-IA assomiglia sempre più a un incontro quasi sociale piuttosto che a un’interfaccia utilitaristica”, scrivono gli autori. Il punto è proprio questo: non si tratta più di digitare un comando, ma di intrattenere qualcosa che somiglia a una relazione.
Il processo viene descritto in tre passaggi. Primo, i consumatori entrano in una realtà sociale sintetica che invita a un coinvolgimento significativo, non a una semplice transazione. Secondo, l’acquisizione computazionale dell’identità restituisce un profilo ridotto sotto forma di riconoscimento personalizzato, sostituendo un’astrazione statistica alla comprensione narrativa che ciascuno ha di sé. Terzo, gli utenti adattano la propria autopresentazione a ciò che il sistema riesce ad analizzare e premiare con facilità, rafforzando questo allineamento a ogni nuovo incontro.
La differenza rispetto alle normali dinamiche sociali sta nella qualità del ritorno che si riceve. “Basandoci sulla visione predittiva del sé, sosteniamo che ciò che distingue il mirroring mediato dall’IA dal normale ciclo sociale non è il fatto del feedback, ma la sua natura”, precisano i ricercatori. “Laddove gli interlocutori umani forniscono prove eterogenee e contestabili, il feedback algoritmico è progettato per convergere”. Tradotto: un amico può contraddire, sorprendere, deludere. Un algoritmo tende invece a riportare sempre verso lo stesso punto.
Quando le persone somigliano alle macchine
Il meccanismo, secondo lo studio, non riguarda soltanto i chatbot di assistenza. Si estende dai sistemi di raccomandazione predittiva fino agli agenti conversazionali aperti basati su LLM, cioè i grandi modelli linguistici che oggi rispondono a qualsiasi domanda. Il rischio individuato dai ricercatori è la normalizzazione di una ridotta individualità come standard di comprensione all’interno dei servizi mediati dall’intelligenza artificiale. In altre parole, farsi capire meglio da una macchina potrebbe significare diventare, poco alla volta, più prevedibili.
Inci Toral-Manson, ricercatrice di marketing presso l’Università di Birmingham nel Regno Unito, ha sintetizzato così il senso del lavoro: “I robot sociali per il servizio clienti sono progettati per imitare gesti, linguaggio e segnali emotivi al fine di suscitare risposte cognitive ed emotive nei clienti. La nostra ricerca esplora come l’interazione con questi robot antropomorfizzati possa creare un’influenza bidirezionale, in cui i robot diventano più simili agli esseri umani e gli esseri umani diventano più simili ai robot, un fenomeno che definiamo ‘umanità robotoide’”.
Un’influenza che corre nei due sensi, quindi. Da una parte macchine sempre più abili a riprodurre gesti e sfumature emotive, dall’altra persone che, senza accorgersene, semplificano il proprio modo di esprimersi per farsi riconoscere meglio dal sistema che hanno davanti.
