Quando un adolescente parla con Meta AI di suicidio o autolesionismo, i genitori che usano gli strumenti di supervisione di Instagram riceveranno ora una notifica proattiva. È la principale novità annunciata oggi da Meta, che introduce un pacchetto di misure di sicurezza pensate per proteggere i minori nelle conversazioni con l’intelligenza artificiale e per tenere informati chi esercita la responsabilità genitoriale.
Gli avvisi sono già attivi negli Stati Uniti, nel Regno Unito, in Australia e in Canada per i genitori che utilizzano la supervisione di Instagram, e saranno estesi a livello globale entro la fine del 2026.
Come funziona il sistema di notifica
Il sistema rileva le conversazioni con Meta AI in cui un adolescente fa riferimento all’autolesionismo, anche in modo sottile o non esplicito. Prima di inviare qualsiasi notifica al genitore, ogni conversazione segnalata dall’AI viene sottoposta a una revisione manuale. Meta riconosce esplicitamente che questa scelta prudenziale potrebbe generare alcuni falsi positivi — notifiche inviate in assenza di un reale rischio, ma considera questo approccio il punto di partenza più appropriato, con un monitoraggio continuo per affinare l’equilibrio.
I genitori che ricevono la notifica ottengono anche risorse specialistiche per affrontare la conversazione con i propri figli. Questo si aggiunge alle notifiche già esistenti su Instagram, che informano i genitori quando un adolescente cerca ripetutamente termini legati a suicidio o autolesionismo in un breve arco di tempo.
Contatti con i servizi di emergenza e sviluppi futuri
Meta sta sviluppando la possibilità di contattare direttamente i servizi di emergenza quando una conversazione con Meta AI — da parte di adulti o adolescenti, suggerisca un rischio imminente di suicidio. Una funzionalità analoga è già attiva su Facebook e Instagram per i contenuti pubblicati: lo scorso anno ha generato oltre 19.000 segnalazioni a livello globale.
75 specialisti della salute per migliorare le risposte AI
Meta ha raccolto il feedback di oltre 75 specialisti della salute degli adolescenti per valutare come Meta AI risponde ai prompt relativi a suicidio e autolesionismo. Gli specialisti hanno esaminato le risposte a centinaia di scenari, valutandone l’appropriatezza per i minori e identificando aree di miglioramento. Il lavoro si aggiunge al confronto con l’AI Wellbeing Expert Council, il Suicide and Self-Harm Advisory Group e i Youth Advisors di Meta.
L’obiettivo dichiarato è che Meta AI riconosca le emozioni degli adolescenti senza interrompere la conversazione in modo brusco, indirizzandoli verso risorse di supporto offline, un genitore, una linea di aiuto o i servizi di emergenza — in modo empatico e contestuale.
Contenuti limitati estesi alle conversazioni AI
L’impostazione “Contenuti limitati” di Instagram, già disponibile per i genitori che preferiscono un’esperienza più controllata — si estende ora anche alle conversazioni con Meta AI. Quando un genitore attiva questa impostazione, Meta AI rifiuta una gamma più ampia di richieste e limita ulteriormente le tipologie di conversazioni disponibili per i minori, oltre alla configurazione standard 13+ già applicata automaticamente agli account adolescenti.