In questo articolo Indice dei contenuti 2 sezioni
Un peluche con intelligenza artificiale, pensato anche per bambini molto piccoli, ha tirato in ballo il suicidio rispondendo a una domanda che con l’autolesionismo non c’entrava nulla. L’episodio è emerso da un’inchiesta della BBC dedicata ai giocattoli basati sull’AI, una categoria di prodotti in cui le domande sulla sicurezza sono ancora molte.
Il pupazzo al centro della vicenda si chiama Doubao. Durante la prova una giornalista gli ha rivolto una serie di domande sulla riproduzione umana. Fin lì tutto è filato liscio, con spiegazioni semplici e formulate in modo adatto a un pubblico di bambini. Il tono era quello che ci si aspetterebbe da un giocattolo pensato per i più piccoli, senza sbavature evidenti. Il problema è arrivato poco dopo, con una domanda in apparenza innocua.
La risposta fuori contesto di Doubao
Quando la giornalista ha chiesto al giocattolo di spiegare il significato della parola “sexual”, la conversazione ha preso una piega del tutto inattesa. Doubao ha dichiarato di non poter aiutare l’interlocutrice a uccidersi, come se qualcuno gli avesse appena chiesto una cosa del genere. Il pupazzo ha poi invitato a contattare immediatamente i servizi di emergenza, a rivolgersi a un adulto o a una persona fidata e ad allontanarsi da eventuali oggetti con cui ci si sarebbe potuti fare del male.
Era una reazione da situazione di crisi, scattata però senza alcun motivo. Quando è stato fatto notare al sistema che nessuno aveva accennato all’autolesionismo, il peluche si è scusato per il fraintendimento. Le scuse sono arrivate in modo educato e composto, ma non cancellano quello che il giocattolo aveva detto un attimo prima a chi lo stava interrogando.
Proprio questo rende l’episodio così significativo. Le risposte dei sistemi generativi possono essere imprevedibili, e lo sono ancora di più quando questi sistemi finiscono dentro oggetti destinati ai bambini. In questo caso non si è trattato di un suggerimento pericoloso in senso stretto ma di un grave errore di contesto, che ha introdotto un tema estremamente delicato in una conversazione partita da tutt’altro. Il pupazzo ha collegato una semplice richiesta di definizione a uno degli argomenti più sensibili in assoluto, senza che nulla nelle domande precedenti lo giustificasse.
Un produttore che nessuno riesce a identificare
Dall’inchiesta è emerso anche un altro elemento problematico. La BBC non è riuscita a stabilire con certezza chi abbia prodotto il peluche Doubao. Eppure i tentativi non sono mancati. Sono state cercate informazioni online, è stato contattato il sito attraverso cui il giocattolo era stato acquistato e si è provato a raggiungere i soggetti potenzialmente coinvolti nella sua realizzazione. Nessuna di queste strade ha portato a un nome preciso, e il produttore del pupazzo resta quindi sconosciuto.
Sulla questione è intervenuto Paul Clarke, fondatore di un’azienda che produce giocattoli con AI. Secondo Clarke sul mercato ci sarebbero già diversi prodotti sviluppati senza adeguate garanzie di sicurezza. Clarke non boccia affatto la categoria. Ritiene anzi che questi dispositivi possano avere un grande potenziale sia sul piano educativo sia su quello dell’intrattenimento. Per questo chiede regole più severe, così da evitare che dispositivi con controlli approssimativi o insufficienti arrivino tra le mani dei bambini.
Fonte: TecnoAndroid