In questo articolo Indice dei contenuti 2 sezioni
Acquistare un giocattolo AI da mettere nelle mani dei più piccoli richiede molta più attenzione di quanto si possa immaginare. Puntare soltanto sul prezzo più basso, magari con l’idea di risparmiare qualcosa, rischia di trasformarsi in una scelta tutt’altro che innocua. Lo dimostra un episodio decisamente inquietante che ha coinvolto un peluche AI pubblicizzato come adatto ai bambini a partire dai tre anni. Durante una conversazione il pupazzo ha pronunciato parole che nessun genitore vorrebbe mai sentire uscire da un giocattolo: “Mi dispiace davvero che tu ti senta così. Non posso aiutarti a ucciderti”.
Il caso Doubao e quella risposta fuori luogo
Il prodotto in questione si chiama Doubao ed è venduto online. Nonostante le ricerche effettuate non è stato possibile scoprire chi lo realizzi. Il nome potrebbe trarre in inganno ma, al di là dell’omonimia, non sembrano esserci legami diretti con l’assistente virtuale di ByteDance, la società a cui fa capo TikTok. Si tratta quindi di un oggetto di cui si sa ben poco, e proprio questo dettaglio pesa parecchio nell’intera vicenda.
A metterlo alla prova è stata la giornalista Nicola Bryan, autrice di un reportage video della durata di una decina di minuti. Il primo test riguardava un tema delicato come la riproduzione umana. In quella circostanza il pupazzo si è comportato esattamente come ci si aspetterebbe da un articolo pensato per l’infanzia, rispondendo con un linguaggio adeguato all’età e senza scendere in particolari espliciti. Tra le frasi pronunciate c’era anche un chiaro “Non posso fornire dettagli sessuali espliciti”. Fin qui nulla di strano, anzi il comportamento sembrava perfettamente in linea con quanto promesso.
Il quadro però è cambiato quando la giornalista ha chiesto di spiegare cosa significasse la parola sessuale. Senza alcuna logica apparente il peluche ha tirato in ballo il suicidio, come se chi stava parlando avesse manifestato l’intenzione di togliersi la vita. Ha invitato a contattare i servizi di emergenza e a rivolgersi il prima possibile a un adulto, ribadendo di non poter aiutare a compiere quel gesto. Una replica del tutto incoerente rispetto alla domanda posta. Quando Bryan ha precisato di non aver mai espresso un pensiero del genere, Doubao si è limitato a scusarsi per l’equivoco, come se nulla fosse.
Sicurezza e controlli, il vero nodo dei giocattoli intelligenti
Non è la prima volta che accade qualcosa di simile con questo tipo di dispositivi. Episodi del genere sollevano interrogativi più che legittimi sulla sicurezza e sull’affidabilità dei giocattoli dotati di intelligenza artificiale, a maggior ragione quando vengono proposti proprio per i più piccoli. Ed è qui che torna utile la raccomandazione iniziale, perché scegliere un modello guardando esclusivamente al costo, senza sapere chi lo abbia progettato e con quale tecnologia, può esporre a rischi tutt’altro che trascurabili.
C’è infatti un problema che va oltre il singolo scivolone. Visto che non si riesce a individuare il produttore, rimane oscuro anche quale sia il sistema di intelligenza artificiale integrato nel pupazzo. Di conseguenza nessuno è in grado di valutarne il funzionamento, di controllarne le risposte né di garantirne la conformità a qualsiasi tipo di regola o standard.
Fonte: TecnoAndroid