Con l’ultimo aggiornamento annunciato da Meta, Meta AI potrà avvertire i genitori nel momento in cui i loro figli adolescenti affrontano temi delicati come il suicidio o altre forme di autolesionismo durante le conversazioni con l’assistente virtuale su Instagram, Facebook o Meta Horizons. Una novità che si inserisce dentro un discorso più ampio sulla sicurezza dei più giovani, tema su cui l’azienda sta lavorando da tempo.
Per attivare questa funzione serve un passaggio preciso. Bisogna dare il consenso agli strumenti di supervisione familiare pensati per genitori e tutori, così da selezionare gli account che si vogliono tenere sotto controllo. In pratica, chi non ha ancora impostato la supervisione familiare per gli account usati dai propri figli dovrà partire proprio da lì. Al momento la funzione è disponibile solo negli Stati Uniti, in Canada, nel Regno Unito e in Australia.
Come funziona il sistema di allerta
Il meccanismo non nasce dal nulla, ma va ad aggiungersi a misure di sicurezza che erano già attive. Quando un adolescente lascia intendere di poter avere pensieri legati al suicidio o all’autolesionismo, Meta AI già oggi indirizza verso i numeri di emergenza e lo invita a parlarne con un genitore o con un altro adulto di fiducia, come può essere un counselor. La novità è che ora l’assistente avviserà in modo proattivo i genitori supervisori se la chat suggerisce un possibile rischio, basandosi su segnali messi a punto insieme a degli esperti. Insieme all’avviso, l’azienda condividerà anche risorse utili per affrontare questi discorsi con i ragazzi nel modo giusto.
L’obiettivo dichiarato è cogliere anche riferimenti piuttosto sottili, non solo quelli evidenti. Proprio per questo tutte le chat segnalate passeranno prima da un controllo manuale. Meta è consapevole di quanto un avviso del genere possa essere angosciante da ricevere per un genitore. Se l’intenzione del ragazzo risulta ambigua, la scelta sarà quella di andare sul sicuro e avvisare comunque la famiglia. Questo significa che a volte potrebbero arrivare notifiche anche quando non c’è un reale motivo di preoccupazione, ma l’azienda ritiene sia il punto di partenza corretto e continuerà a monitorare la situazione per calibrare meglio il sistema.
Contatti con i servizi di emergenza in arrivo
C’è poi un altro tassello che riguarda direttamente i servizi di emergenza. Oggi Meta contatta i soccorsi quando individua un rischio credibile di suicidio in un post pubblicato su Facebook o Instagram, e ha fatto sapere che in futuro estenderà questa stessa capacità anche a Meta AI. In pratica, l’azienda sta costruendo la possibilità di allertare i soccorsi se una conversazione con l’assistente, che si tratti di un adulto o di un adolescente, lascia intendere un rischio imminente per la propria vita.
Non è una direzione nuova per l’azienda. Il lavoro già svolto su Facebook e Instagram racconta bene la portata del fenomeno. Nel corso dell’ultimo anno Meta ha effettuato oltre 19.000 segnalazioni di questo tipo in giro per il mondo, aiutando i primi soccorritori a intervenire con controlli sul benessere delle persone a rischio.
Chi si trovasse in difficoltà può rivolgersi ai servizi di supporto dedicati alla prevenzione del suicidio e alla gestione delle crisi, contattando le linee di emergenza disponibili nel proprio Paese o recandosi al pronto soccorso per chiedere aiuto in caso di emergenza legata alla salute mentale.