La gestione degli utenti minorenni diventa una priorità sempre più centrale per le aziende che sviluppano chatbot basati su intelligenza artificiale. OpenAI e Anthropic, due dei protagonisti del settore, stanno introducendo nuovi strumenti e regole per individuare gli under 18 e limitare i rischi legati all’uso dell’AI, soprattutto quando entrano in gioco temi sensibili. Le due società si muovono con strategie diverse, ma la direzione è comune: maggiore responsabilità e controlli più stringenti.
Il contesto è quello di un dibattito pubblico sempre più acceso sull’impatto dei chatbot sulla salute mentale degli adolescenti, accompagnato da una crescente pressione politica e regolatoria.
Le nuove regole di OpenAI per ChatGPT
OpenAI ha aggiornato il Model Spec di ChatGPT, il documento che definisce il comportamento del sistema. Per la prima volta compaiono principi specifici dedicati agli utenti tra i 13 e i 17 anni. In presenza di minorenni, la priorità dichiarata diventa la sicurezza, anche quando questo entra in conflitto con valori storici come la massima libertà intellettuale.
Nelle conversazioni che toccano argomenti potenzialmente rischiosi, ChatGPT dovrà orientare i più giovani verso alternative considerate più sicure. Tra le indicazioni centrali c’è l’invito a promuovere il supporto nel mondo reale, incoraggiando relazioni offline e il confronto con persone di fiducia. Allo stesso tempo, il chatbot dovrà chiarire i limiti del proprio ruolo, evitando di sostituirsi a figure di riferimento umane.
OpenAI sottolinea anche l’importanza di “trattare gli adolescenti come adolescenti”, adottando un tono rispettoso e caldo, senza paternalismi ma anche senza assimilare i ragazzi agli adulti.
Età stimata e barriere automatiche
Accanto alle nuove linee guida, OpenAI sta lavorando a un sistema di previsione dell’età. L’obiettivo è stimare se un utente possa essere under 18 e, in caso positivo, applicare automaticamente le tutele dedicate ai minorenni. Gli adulti segnalati per errore avranno comunque la possibilità di verificare la propria età.
Questa evoluzione arriva dopo mesi di critiche e un caso giudiziario che ha coinvolto direttamente ChatGPT, spingendo l’azienda a rafforzare le limitazioni sui contenuti legati a suicidio e autolesionismo e a introdurre indicazioni chiare verso servizi di emergenza in situazioni di rischio.
L’approccio più rigido di Anthropic
Anthropic adotta una linea ancora più restrittiva. Claude, il suo chatbot, non è pensato per utenti sotto i 18 anni e l’azienda sta sviluppando sistemi per individuare segnali sottili nel linguaggio che possano indicare la presenza di un minorenne. In questi casi, gli account non conformi vengono disattivati.