In questo articolo Indice dei contenuti 2 sezioni
OpenAI ha deciso di alzare il livello delle protezioni per i minori che utilizzano ChatGPT, con un pacchetto di modifiche che tocca tre fronti ben precisi. Il chatbot ridurrà le informazioni sulle armi anche quando la domanda appare del tutto innocua, mentre la verifica dell’età e i controlli parentali diventeranno più efficaci. Non si tratta di una scelta arrivata dal nulla. L’azienda californiana sta rispondendo alle denunce ricevute negli Stati Uniti e alle critiche mosse da Common Sense Media sul modo in cui funziona ChatGPT for Teens, la versione dell’assistente pensata appositamente per gli adolescenti.
Meno dettagli sulle armi e un controllo dell’età più attento
Secondo OpenAI, ChatGPT for Teens offre già tutele più ampie e limiti aggiuntivi rispetto all’esperienza standard, proprio per abbassare l’esposizione dei ragazzi a contenuti delicati. All’inizio di ottobre la società aveva anche diffuso alcuni dati incoraggianti in questo senso. Adesso però si va oltre. L’assistente limiterà le spiegazioni sull’uso di armi e di altri strumenti che potrebbero essere sfruttati in modo improprio, e lo farà anche quando nella conversazione non emerge alcun segnale di intenzioni violente. In pratica il freno scatta prima ancora che una richiesta possa sembrare sospetta.
Cambia anche il meccanismo che stabilisce chi si trova davvero dall’altra parte dello schermo. Il sistema di verifica dell’età è stato potenziato per valutare ulteriori segnali comportamentali durante l’utilizzo del servizio. Conta quindi il modo in cui una persona interagisce con il chatbot e non soltanto ciò che dichiara al momento dell’iscrizione. Quando la stima indica un’età inferiore ai 18 anni, l’utente viene spostato nell’esperienza riservata ai più giovani. Può capitare che l’algoritmo sbagli, ovviamente. In quel caso chi è maggiorenne ha la possibilità di confermarlo attraverso una procedura gestita da Persona, così da correggere l’errore.
Genitori più informati e regole più severe anche per gli adulti
Sul fronte dei controlli parentali arrivano novità piuttosto concrete. I genitori riceveranno una notifica se l’account del figlio adolescente viene sospeso per via di ripetute discussioni su temi legati alla violenza. Esiste poi già un altro livello di tutela. Gli account dei genitori collegati a quelli dei ragazzi ricevono avvisi di sicurezza quando i revisori di OpenAI individuano un rischio serio di autolesionismo oppure comportamenti che potrebbero essere associati a disturbi alimentari. Le due funzioni lavorano su piani diversi ma vanno nella stessa direzione, cioè coinvolgere la famiglia quando la situazione lo richiede.
La stretta non riguarda solo i più giovani. OpenAI rafforzerà le restrizioni anche per gli utenti maggiorenni. Già oggi ChatGPT non fornisce istruzioni capaci di aiutare qualcuno a pianificare o mettere in atto azioni violente, ma in futuro sarà ancora più prudente. Le risposte su attacchi di massa avvenuti in passato e sui loro autori diventeranno meno dettagliate. L’obiettivo dichiarato è bloccare eventuali emulazioni, evitando che il racconto di vecchi episodi possa trasformarsi in una sorta di modello da imitare.
C’è infine un impegno sul piano della trasparenza. All’inizio del 2027 OpenAI pubblicherà il primo Community Safety Report, un documento che descriverà nel dettaglio come vengono individuati e bloccati i contenuti pericolosi all’interno di ChatGPT.
Fonte: TecnoAndroid