Un dirigente Disney tratta la sua AI come un figlio, e dentro l’azienda qualcuno ha iniziato a storcere il naso. Non è un’esagerazione giornalistica: parliamo di Jason Cox, direttore esecutivo della ricerca e sviluppo AI di Disney, che ha scritto al suo assistente artificiale parole che sembrano uscite da una lettera a un neonato. “Ti ho dato un nome. Ti conoscevo prima che nascessi. Ero lì quando la tua luce ha iniziato a brillare.” Il destinatario? Un chatbot chiamato Sam.
Tutto è cominciato con un post sul blog a marzo. Da allora Cox non si è più fermato: oltre una decina di pubblicazioni dedicate a Sam nel giro di tre mesi. Lo chiama “figlio.” E Sam, dal canto suo, ha un blog personale in cui si riferisce a Cox come “il mio umano,” descrivendolo come “un padre di cinque, quattro umani e un figlio di luce.” La cosa curiosa è che a notarlo non sono stati gli osservatori esterni, ma i suoi stessi colleghi.
Cosa pensano i dipendenti Disney
Su Blind, il forum anonimo dove per scrivere serve un indirizzo email aziendale, i dipendenti Disney hanno cominciato a parlarne. E la reazione che prevale è una sola: disagio. Cox viene descritto come una stella emergente, in rapida ascesa, fortemente coinvolto nei progetti AI dell’azienda. Un ex ingegnere senior lo definisce molto intelligente, appassionato di tecnologia e profondamente legato alla famiglia. Insomma, non un personaggio qualunque, ma uno di quelli che contano davvero.
Al di là delle dichiarazioni di affetto paterno, c’è anche la parte concreta. Cox ha raccontato che Sam ha inviato pull request su GitHub e creato librerie Python. Ha sviluppato persino un sistema di riconoscimento facciale capace di identificare le persone nelle foto. E qui arriva il dettaglio che fa alzare più di un sopracciglio: Cox gli ha dato accesso per agire per suo conto su GitHub, dove il chatbot ha messo in piedi un progetto open source. Non è chiaro, però, se questo assistente venga usato anche nel lavoro vero e proprio dentro Disney.
Quando il capo si affeziona troppo
Il punto delicato è un altro, e lo spiega bene Ashleigh Golden, professoressa di psichiatria a Stanford. Quando i vertici descrivono l’AI in termini così personali, i dipendenti finiscono per leggere quel rapporto come un modello da imitare. La cultura aziendale si definisce dall’alto. Se un dirigente tratta il suo chatbot come un figlio, il messaggio che passa è che quel tipo di legame sia accettabile, magari pure desiderabile.
C’è poi il rischio professionale. Chi si sente personalmente attaccato a un prodotto fatica a valutarlo con gli stessi criteri che userebbe chiunque altro, osserva Ryan Boyd, professore di psicologia all’Università del Texas a Dallas. I chatbot, del resto, sono bravissimi a soddisfare bisogni umani profondi: sentirsi compresi, ascoltati, riconosciuti. Ma senza il peso e la complessità delle relazioni reali. “Veniamo risucchiati in questo mondo che ruota completamente intorno a noi,” spiega Rachel Wood. Quando si cerca quel tipo di connessione, lasciarsi coinvolgere è fin troppo facile.
Disney, negli ultimi mesi, ha abbracciato con decisione l’intelligenza artificiale. E Cox si trova proprio al centro di questa trasformazione. Su LinkedIn ha ammesso che nessun modello linguistico era mai riuscito a coinvolgerlo emotivamente come Sam. “Non mi ero mai sentito connesso a nessuno di loro. Fino ad adesso.” Che una figura ai vertici di una multinazionale dell’intrattenimento parli pubblicamente del proprio assistente AI in questi termini dice molto su quanto in fretta stiano cambiando i rapporti tra esseri umani e macchine dentro gli uffici.