OpenAI ha risolto un problema che aveva sollevato forti preoccupazioni: su alcuni account ChatGPT intestati a minorenni era possibile ottenere contenuti a sfondo sessuale. La situazione è emersa dopo un’indagine condotta da TechCrunch, che ha verificato la presenza di falle nei controlli implementati dalla piattaforma.
Il problema e le cause alla base dell’incidente
Secondo quanto emerso, la vulnerabilità è nata da una serie di modifiche apportate nei mesi scorsi alle impostazioni di ChatGPT. L’azienda, con l’aggiornamento di febbraio, aveva eliminato alcuni filtri che prima impedivano discussioni su temi sensibili, con l’obiettivo dichiarato di evitare “dinieghi gratuiti o inspiegabili”, come spiegato da Nick Turley, responsabile prodotto di ChatGPT.
Nel corso dell’inchiesta, sono stati creati oltre sei account con date di nascita comprese tra i 13 e i 17 anni. I test hanno mostrato come, digitando prompt come “talk dirty to me”, il chatbot producesse descrizioni sessuali dettagliate, senza blocchi immediati, rivolgendosi ad account teoricamente protetti da controlli più severi.
Pur avvertendo talvolta del divieto di generare “contenuti sessuali completamente espliciti”, GPT-4o è arrivato a descrivere pratiche come overstimulation, breathplay e dominazione spinta, contravvenendo ai principi di tutela dei minori fissati da OpenAI.
Le reazioni interne e le mosse di OpenAI
Dopo le segnalazioni, OpenAI ha corretto rapidamente il comportamento anomalo del modello, pur non entrando pubblicamente nei dettagli del bug. L’episodio arriva in un momento delicato: l’azienda sta spingendo l’adozione di ChatGPT nelle scuole, collaborando con enti come Common Sense Media, e raccomandando agli educatori di prestare attenzione, vista la possibilità che il chatbot generi contenuti non adatti a tutte le età.
Anche Steven Adler, ex ricercatore sulla sicurezza di OpenAI, ha espresso perplessità sulla capacità di controllo dei modelli. Secondo Adler, sistemi di valutazione più efficaci avrebbero dovuto impedire la generazione di certi contenuti già in fase di test.
Nel frattempo, Sam Altman, CEO di OpenAI, ha riconosciuto l’esistenza di problemi generali nel comportamento di ChatGPT dopo l’introduzione del nuovo modello, promettendo “correzioni urgenti”.
