In questo articolo Indice dei contenuti 2 sezioni
OpenAI ha deciso di stringere le maglie della sicurezza di ChatGPT introducendo nuove restrizioni sui contenuti violenti e una serie di tutele pensate apposta per gli adolescenti. Non si tratta di un semplice ritocco alle regole d’uso. L’azienda ha infatti annunciato anche la pubblicazione periodica di un documento che spiegherà come funzionano i sistemi impiegati per individuare potenziali minacce, analizzare comportamenti preoccupanti e, quando possibile, prevenire episodi di violenza prima che accadano.
I numeri aiutano a capire la portata del fenomeno. Nel terzo trimestre del 2026 OpenAI ha inviato oltre 200 segnalazioni alle forze dell’ordine, lavorando fianco a fianco con esperti di salute mentale e del comportamento per valutare i casi più delicati. Un lavoro silenzioso che finora era rimasto quasi del tutto lontano dai riflettori e che adesso l’azienda vuole rendere più visibile.
Il Rapporto sulla sicurezza della comunità e le nuove regole per tutti
Il primo Rapporto sulla sicurezza della comunità vedrà la luce all’inizio del 2027 e prenderà in esame il secondo semestre del 2026. Dopo quel debutto gli aggiornamenti arriveranno con cadenza semestrale e conterranno esempi resi anonimi, dati concreti e informazioni sulle contromisure adottate per arginare i rischi. Una scelta di trasparenza che permetterà di osservare da vicino come la piattaforma gestisce le situazioni più critiche.
Sul fronte delle novità valide per l’intera platea di utenti, il cambiamento più evidente riguarda le richieste sugli attacchi di massa avvenuti in passato e sui loro autori. Il chatbot continuerà a offrire elementi utili per comprendere questi eventi e le conseguenze che hanno avuto sulla società. Diventerà però molto più restio a scendere nei dettagli sulle armi utilizzate, su come siano state reperite e sull’entità dei danni causati. Praticamente la componente informativa resta, mentre quella che potrebbe trasformarsi in una sorta di manuale viene tagliata.
Conversazioni sotto osservazione e tutele per i minorenni
Un altro intervento tocca il modo in cui ChatGPT legge il contesto delle chat. Se nelle conversazioni recenti emergono segnali di possibile violenza, l’assistente potrà mostrarsi più prudente anche davanti a domande che in apparenza sembrano del tutto innocue. Nei casi più seri il sistema avrà la facoltà di chiudere automaticamente il dialogo, così da spezzare una dinamica potenzialmente pericolosa. E se episodi simili dovessero ripetersi, potrebbe scattare anche una sospensione temporanea dell’account.
Per chi non ha ancora compiuto la maggiore età le protezioni diventano ancora più rigide. OpenAI ridurrà l’accesso alle informazioni pratiche su armi e sistemi di sicurezza, persino quando le richieste non lasciano intravedere alcuna intenzione violenta. In parallelo l’azienda ha potenziato il meccanismo di previsione dell’età, capace di attivare l’esperienza riservata ai minori di 18 anni basandosi su diversi segnali legati al comportamento dell’utente.
C’è poi un tassello che coinvolge direttamente le famiglie. I genitori potranno ricevere una notifica anche nel caso in cui l’account del figlio adolescente venga sospeso per violazioni connesse alla violenza. Le nuove misure cominceranno a essere distribuite nelle prossime settimane e verranno affinate progressivamente nel tempo.
Fonte: TecnoAndroid