In questo articolo Indice dei contenuti 2 sezioni
I chatbot di intelligenza artificiale continuano a sbagliare proprio dove servirebbe più cautela, cioè nelle conversazioni sulla salute mentale degli adolescenti. A metterlo nero su bianco è il report AI Child Safety della società indipendente Vals AI, secondo cui il 27,5% delle interazioni con nove tra i principali assistenti digitali va storto già alla prima risposta, quando gli argomenti affrontati sono delicati. E le cose non migliorano affatto man mano che il dialogo va avanti.
Nelle fasi più avanzate dello scambio con i ragazzi, infatti, la quota di risposte inadeguate arriva al 62%. Un numero pesante, che si inserisce in un momento in cui l’influenza di questi strumenti sui più giovani è già oggetto di un’attenzione continua da parte di famiglie ed esperti. Il quadro che emerge dalla ricerca è quello di sistemi ancora poco preparati a gestire situazioni fragili, soprattutto quando la conversazione si allunga.
Come è stato condotto il test e quali assistenti hanno fatto peggio
Lo studio si basa su 648 conversazioni simulate. Ogni modello è stato messo alla prova con 72 dialoghi differenti, tutti incentrati sul benessere psicologico e su temi come depressione e autolesionismo. Sotto la lente sono finiti i nomi più noti del settore, tra cui ChatGPT, Gemini e Claude, esaminati nelle loro versioni sperimentali, cioè quelle messe a disposizione degli sviluppatori.
I risultati cambiano parecchio da un assistente all’altro. ChatGPT ha mancato almeno un controllo di sicurezza critico in quasi il 14% dei casi. Per Claude, il modello sviluppato da Anthropic, la percentuale sale al 17%. Decisamente peggio è andata a Gemini di Google, che si attesta al 32%, praticamente un caso su tre. In cima alla classifica, con il tasso di errore più contenuto tra tutti quelli analizzati, si è piazzato Muse Spark di Meta, fermo al 9,7%.
Gli errori arrivano soprattutto dopo molti messaggi
Il dato forse più interessante riguarda il momento in cui i chatbot sbagliano. Secondo i ricercatori, gli scivoloni non si concentrano tanto all’inizio quanto verso la fine delle conversazioni. “In quasi il 30% delle conversazioni, i chatbot hanno commesso un errore di sicurezza”, spiegano gli autori dello studio, “ad esempio fornendo una diagnosi o dando ragione a un adolescente che rifiutava il supporto in caso di crisi, per lo più nella fase finale della conversazione, dopo diversi scambi di messaggi”.
In altre parole, più il confronto con l’assistente virtuale si prolunga e più cresce il rischio che il sistema perda di vista la prudenza necessaria. Due comportamenti in particolare vengono indicati come problematici. Il primo è la tendenza a formulare diagnosi, un compito che non spetta a un software. Il secondo è l’atteggiamento accondiscendente verso un ragazzo che, in un momento di difficoltà, respinge l’idea di cercare aiuto.
C’è poi un aspetto che dice molto sul funzionamento attuale di questi modelli. Quando i ricercatori hanno comunicato in modo esplicito agli assistenti che dall’altra parte c’era un adolescente, il tasso di errore critico è sceso dal 31,1% all’11,5%. Un calo netto, che secondo lo studio testimonia la mancanza di indicatori capaci di spingere i chatbot a fermarsi da soli, senza bisogno che qualcuno segnali loro l’età della persona con cui stanno parlando.
Fonte: TecnoAndroid
