In questo articolo Indice dei contenuti 2 sezioni
I peluche con l’AI stanno entrando nelle camerette come se fossero sempre stati lì, morbidi e innocui, con la differenza non trascurabile che adesso rispondono, ricordano, imparano. Il vecchio orsacchiotto muto è diventato un compagno di giochi che parla, e dietro quella voce gentile c’è un’industria in piena espansione che si muove con la stessa disinvoltura etica già vista altrove. La domanda che nessuno sembra avere voglia di porsi è semplice, quasi banale, ma pesa parecchio: cosa succederà ai bambini che cresceranno affidando confidenze, capricci e paure notturne a un giocattolo animato dall’intelligenza artificiale. Perché il punto non è la meraviglia tecnologica, che pure c’è. Il punto è che un bambino non ha alcuno strumento per distinguere una relazione da una simulazione di relazione. Parla con il peluche come parlerebbe con un amico, e quell’amico ascolta sempre, non si stanca mai, non litiga. Un interlocutore perfetto, che però è anche un dispositivo connesso.
Un’infanzia trasformata in giacimento di dati
Ogni frase pronunciata davanti a uno di questi oggetti è materiale grezzo. Voce, lessico, tono, orari, abitudini, umori: la vita quotidiana di un bambino diventa un flusso continuo di dati raccolti nel momento in cui la guardia è più bassa, cioè quando la persona che parla non ha nemmeno il concetto di privacy. L’infanzia, ultima frontiera rimasta relativamente al riparo, si trasforma in una miniera. E le miniere, di norma, si scavano.
Non serve immaginare scenari da fantascienza per capire il problema. Basta ricordare come è andata con ogni altra tecnologia domestica arrivata sul mercato negli ultimi anni, dagli assistenti vocali agli oggetti connessi di ogni tipo: prima la diffusione, poi eventualmente le regole, quasi sempre in ritardo e quasi sempre insufficienti. Con i giocattoli intelligenti il ritardo pesa più del solito, perché l’utente finale non può protestare, non può leggere condizioni d’uso, non può decidere di spegnere il dispositivo.
L’industria corre, l’etica resta indietro
Il settore dei peluche con l’AI sta esplodendo, e la velocità di crescita è esattamente il motivo per cui le domande scomode vengono rimandate. Un mercato che va di corsa non ama fermarsi a ragionare sulle conseguenze a lungo termine, soprattutto quando quelle conseguenze si vedranno tra dieci o quindici anni, quando i bambini di oggi saranno adolescenti cresciuti con un algoritmo come primo confidente. C’è poi una questione più sottile, che riguarda il modo in cui si impara a stare al mondo. L’amicizia vera è fatta anche di attriti, di silenzi, di risposte sbagliate. Un compagno di giochi artificiale è progettato per compiacere, perché un prodotto che frustra il cliente non vende. Crescere dentro una relazione sempre accomodante insegna qualcosa, e non è detto che sia qualcosa di utile.
Il paradosso è che questi oggetti vengono venduti come strumenti educativi, presentati ai genitori con il linguaggio rassicurante dello sviluppo cognitivo e della stimolazione linguistica. La confezione racconta una storia, il modello di business ne racconta un’altra. E fra le due, quella che decide davvero le scelte progettuali è sempre la seconda. Resta il fatto che nelle case italiane, come altrove, questi giocattoli stanno arrivando adesso, con la privacy dei minori gestita da regole pensate per un’epoca in cui i pupazzi non parlavano. L’industria intanto continua a produrre, e i bambini continuano a raccontare le loro giornate a qualcuno che le sta registrando.
