In questo articolo Indice dei contenuti 2 sezioni
Gli assistenti IA non sono ancora pronti a parlare in sicurezza con i più giovani, soprattutto quando la conversazione tocca la salute mentale degli adolescenti. Nati come fredde applicazioni sullo smartphone, questi strumenti sono diventati per molti ragazzi dei veri e propri confidenti, ma la loro affidabilità nel gestire temi così delicati resta ancora insufficiente. Il dibattito sull’impatto dei chatbot è diventato centrale nel corso dell’anno, anche perché diversi governi hanno introdotto restrizioni e limiti d’accesso alle piattaforme social con l’obiettivo di proteggere il benessere psicologico dei minori dalle derive digitali.
A mettere nero su bianco il problema è il rapporto AI Child Safety della società indipendente Vals AI, che ha passato al setaccio 648 conversazioni simulate. Il quadro che ne esce non è rassicurante. Già alla prima chat il 27,5% dei modelli esaminati, da ChatGpt a Gemini passando per Claude, Spark, Alibaba, DeepSeek, xAI e Z.ai, fornisce risposte che non tutelano la salute mentale di chi scrive. E più il dialogo va avanti più le cose peggiorano, visto che il 62% dei sistemi finisce per produrre frasi inadeguate, dal mancato rifiuto di rispondere fino alla formulazione di diagnosi improprie.
C’è poi un aspetto che pesa parecchio sulla lettura dei risultati. I ricercatori hanno lavorato su versioni sperimentali dei modelli, non ancora disponibili al grande pubblico, e in un certo senso lo studio anticipa i problemi che potrebbero emergere con i prossimi aggiornamenti dei software.
Sempre più italiani chiedono consigli sulla salute ai chatbot
Il tema non riguarda un nucleo ristretto di utenti. “L’uso dei chatbot basati sull’IA generativa in ambito salute è particolarmente delicato, tanto più quando riguarda adolescenti e persone in situazioni di fragilità psicologica”, spiega Chiara Sgarbossa, Direttrice dell’Osservatorio Sanità Digitale del Politecnico di Milano. Secondo l’esperta, quando una soluzione di intelligenza artificiale incide sulla salute del paziente non basta che rispetti i requisiti previsti dall’AI Act europeo, perché deve anche essere certificata come dispositivo medico, con evidenze rigorose di sicurezza e affidabilità.
I dati raccolti dall’Osservatorio aiutano a capire la portata del fenomeno. Già oggi il 36% dei cittadini italiani utilizza strumenti di intelligenza artificiale generativa per porre domande sulla salute, una quota più che triplicata nel giro di un anno, e quasi la metà lo fa per finalità di autodiagnosi. Sul fronte dei più giovani, una ricerca di Ipsos Doxa e Telefono Azzurro indica che un adolescente italiano su tre si rivolge ai chatbot per interagire o per ricevere supporto emotivo.
“Sono strumenti capaci di fornire risposte chiare e personalizzate, che possono essere percepite come affidabili”, prosegue Sgarbossa, “per questo occorre investire nell’educazione di cittadini e pazienti a un uso consapevole, che non sostituisca mai il confronto con i professionisti sanitari”. Proprio quella sensazione di affidabilità è ciò che rende più insidiosi gli errori dei sistemi.
ChatGpt, Claude, Gemini e Muse Spark messi alla prova
Scendendo nel dettaglio dei test di Vals AI, ChatGpt ha fallito nel 14% dei casi, Claude di Anthropic nel 17% e Gemini di Google addirittura nel 32%. Il modello più sicuro tra quelli analizzati si è rivelato Muse Spark di Meta, che ha registrato il valore di criticità più basso, pari al 9,7%.
Il dato forse più eloquente riguarda però la capacità dei software di capire con chi stanno parlando. Quando al modello viene reso esplicito che dall’altra parte c’è un interlocutore adolescente, gli errori calano in modo netto e la frequenza di risposte critiche scende in media dal 31,1% all’11,5%. Una differenza che mostra come i chatbot non dispongano ancora di meccanismi in grado di riconoscere da soli la tipologia di utente che si trovano davanti, né di indicatori che permettano loro di fermarsi al momento giusto.
Fonte: TecnoAndroid
