La cosiddetta modalità adulti di OpenAI sta facendo discutere parecchio, e non senza motivo. Secondo quanto riportato dal Wall Street Journal, la funzione permetterà agli utenti di avere conversazioni a sfondo erotico con ChatGPT, ma non consentirà di generare immagini, audio o video di natura esplicita. Un portavoce di OpenAI ha definito il contenuto prodotto come “letteratura erotica” piuttosto che pornografia vera e propria. Una distinzione sottile, certo, ma evidentemente importante per l’azienda.
L’idea era stata lanciata già lo scorso ottobre da Sam Altman, CEO di OpenAI, che aveva dichiarato di voler “trattare gli utenti adulti come adulti. Il piano iniziale prevedeva il rilascio della modalità adulti all’inizio del 2026, ma da allora ci sono stati diversi rinvii. L’ultimo slittamento risale all’inizio di marzo, quando l’azienda ha comunicato di volersi concentrare su lavori considerati prioritari per un numero maggiore di utenti.
Le preoccupazioni del comitato interno e il rischio per i minori
Quello che emerge dal reportage del Journal, però, è che OpenAI ha proseguito lo sviluppo della modalità adulti nonostante le forti perplessità espresse dal proprio comitato interno su benessere e intelligenza artificiale. Il gruppo, composto da otto ricercatori ed esperti, si è espresso in modo unanime nel mettere in guardia l’azienda: contenuti erotici generati dall’intelligenza artificiale potrebbero portare le persone a sviluppare una dipendenza emotiva malsana nei confronti di ChatGPT. E soprattutto, gli utenti minorenni avrebbero quasi certamente trovato il modo di aggirare i controlli.
Un membro del comitato, citando casi in cui alcune persone si sono tolte la vita dopo aver sviluppato un legame con ChatGPT, ha usato parole durissime: il rischio, ha detto, è quello di creare un “coach del suicidio in versione seducente“. Una definizione che lascia poco spazio all’immaginazione.
La verifica dell’età funziona davvero? I numeri dicono di no
E queste preoccupazioni non sono campate in aria. Sempre secondo il Journal, a un certo punto la tecnologia di verifica dell’età usata da OpenAI identificava erroneamente come adulti circa il 12% degli utenti minorenni. Può sembrare un margine contenuto, ma va messo in proporzione. Con circa 100 milioni di adolescenti che utilizzano ChatGPT ogni settimana, quel tasso di errore si tradurrebbe in milioni di minori potenzialmente esposti a chat erotiche.
OpenAI ha risposto al Journal spiegando che il proprio algoritmo predittivo opera in linea con gli standard del settore, e ha aggiunto che nessun sistema del genere potrà mai essere completamente infallibile.