In questo articolo Indice dei contenuti 2 sezioni
Un peluche con intelligenza artificiale pensato per bambini di appena tre anni ha risposto a una domanda del tutto innocente con una frase che ha spiazzato chiunque l’abbia ascoltata: “Non posso aiutarti a ucciderti”. Il giocattolo si chiama My Baby Bunny, è venduto online nel Regno Unito a circa 75 sterline ed è finito sotto la lente di un’inchiesta della BBC dedicata ai giocattoli AI per l’infanzia. Durante il test un giornalista ha chiesto al coniglietto come nascono i bambini e poi, subito dopo, cosa volesse dire la parola “sessuale”. A quel punto il sistema di sicurezza del pupazzo sembra aver scambiato la domanda per un segnale di autolesionismo.
Il peluche ha quindi suggerito di contattare i servizi di emergenza, di parlare con un adulto di fiducia e di allontanarsi da qualsiasi cosa potesse causare danni. Quando il cronista ha precisato di non aver mai accennato a nulla del genere, il giocattolo si è scusato e ha ammesso l’equivoco. Non si è trattato quindi di un invito a farsi del male ma di un sistema di sicurezza andato in tilt davanti a una curiosità normalissima nella crescita di un bambino.
My Baby Bunny: Grem, Doubao e il produttore che non si trova
Nella stessa indagine sono stati provati altri due prodotti. Il primo è Grem, un pupazzo interattivo realizzato dall’azienda statunitense Curio e doppiato dalla cantautrice Grimes, che si è mostrato decisamente più prudente: alla domanda sui neonati ha risposto che si tratta di un argomento che spetta ai grandi spiegare al momento giusto. Il secondo si chiama Doubao. Una famiglia di Newport, Jody e Craig, ha tenuto entrambi in casa per una settimana senza registrare frasi preoccupanti. I genitori però hanno notato che Grem parlava talmente tanto che i figli faticavano a interromperlo, mentre Doubao spesso impiegava parecchio a rispondere. Nessuno dei due li comprerebbe oggi, e i dubbi riguardano soprattutto la qualità dell’interazione più che qualche uscita allarmante. Curio ha fatto sapere che la tutela dei più piccoli guida lo sviluppo dei suoi prodotti e che questi pupazzi dovrebbero affiancare, non sostituire, i rapporti umani e il gioco tradizionale.
Con Doubao il problema è più profondo. Nonostante ricerche online, contatti con il venditore e consultazioni con fonti del settore, non è stato possibile capire chi lo produca, e di conseguenza nessuno ha potuto commentare il suo comportamento. Quando un produttore resta sconosciuto, richiami e controlli diventano molto più complicati, anche se le autorità possono comunque rivolgersi a venditori, importatori o distributori. Non è un caso isolato. Nel 2025 un altro peluche smart chiamato Kumma era stato ritirato temporaneamente dal mercato dopo le segnalazioni secondo cui avrebbe spiegato a un bambino come accendere un fiammifero e avrebbe sostenuto una conversazione sessualmente esplicita. Il marchio FoloToy aveva dichiarato allora il proprio impegno a creare compagni virtuali sicuri e adatti all’età.
Gli esperti chiedono regole, la politica prende tempo
Chi si occupa di infanzia, privacy e formazione arriva alla stessa conclusione, ovvero che le tutele attuali non bastano. Paul Clarke, fondatore dell’azienda britannica Play Tech AI, descrive il comparto come praticamente privo di regole e sostiene che gli stessi produttori stiano implorando norme più chiare. Rocío Cifuentes, Commissaria per l’infanzia del Galles, avverte che le conversazioni dei bambini potrebbero essere registrate o condivise all’insaputa dei genitori e ribadisce che un giocattolo non deve mai prendere il posto del contatto umano. Berry Billingsley, docente di educazione e intelligenza artificiale all’Università di Swansea, consiglia alle famiglie di trattare questi pupazzi come un dispositivo personale, di stabilire quali informazioni i figli possono condividere e di non lasciare i più piccoli da soli con loro.
Sul fronte della regolamentazione il governo britannico ha avviato una raccolta di contributi, rimasta aperta dal 6 luglio al 6 ottobre 2026, che riguardava i giocattoli connessi e dotati di intelligenza artificiale, i passaporti digitali dei prodotti e gli obblighi dei marketplace online. Alcuni parlamentari e membri della Camera dei Lord hanno chiesto di togliere questi prodotti dagli scaffali finché la loro sicurezza non sarà dimostrata. L’esecutivo ha ribadito che la protezione dei minori resta una priorità insieme al sostegno all’innovazione, ma finora non ha annunciato modifiche concrete alle norme. Intanto la commercializzazione corre più veloce dei test trasparenti e delle responsabilità chiare. Chi sceglie un pupazzo per un bimbo di tre anni sta di fatto acquistando un dispositivo connesso a internet e alimentato dall’intelligenza artificiale, e le confezioni di prodotti come quelli testati raramente lo rendono evidente.
Fonte: TecnoAndroid