In questo articolo Indice dei contenuti 2 sezioni
Con un nuovo strumento pensato per individuare i CSAM, sigla che sta per Child Sexual Abuse Material e che indica i contenuti pedopornografici (compresi quelli creati con l’intelligenza artificiale), OpenAI compie un ulteriore passo sul fronte della tutela dei minori. L’azienda californiana aveva già introdotto diverse protezioni dedicate ai più giovani che utilizzano ChatGPT, inclusa una versione del chatbot pensata appositamente per gli adolescenti. Accanto al nuovo tool arriva anche un cambiamento nel modo in cui il sistema reagisce davanti a certe richieste, perché quando qualcuno inserisce prompt vietati comparirà un avviso esplicito.
Un classificatore di immagini aperto a tutto il settore
Il punto di partenza del ragionamento di OpenAI è abbastanza semplice da enunciare, molto meno da mettere in pratica. Per fermare i predatori sessuali serve il coordinamento tra numerose organizzazioni. Ogni singola azienda ha la responsabilità di impedire che la propria tecnologia venga sfruttata per fare del male ai minori, ma da sola non basta. Occorre una collaborazione che coinvolga l’intero comparto tecnologico, le realtà che si occupano della sicurezza dell’infanzia e le forze dell’ordine. Il messaggio, in sostanza, è che la protezione dei bambini online non può essere affidata a un unico soggetto.
È in questa logica che si inserisce il nuovo classificatore di immagini, capace di rilevare potenziale materiale pedopornografico, compreso quello prodotto dall’AI. Lo strumento va a caccia di indizi visivi di abuso e proprio questo lo rende utile nell’identificazione di immagini nuove, cioè contenuti che non erano mai stati individuati prima. Non si limita però a una semplice segnalazione. Il sistema restituisce infatti dei punteggi che aiutano i revisori a capire quali immagini meritano un esame prioritario, così da concentrare l’attenzione dove serve davvero e non disperdere energie su ciò che può aspettare.
L’accesso è gratuito tramite le API di OpenAI, ma non è aperto a chiunque. Possono usarlo le organizzazioni che hanno superato le verifiche previste, una scelta che punta a rendere il rilevamento dei CSAM più accessibile a tutto il settore e non soltanto a chi dispone di grandi risorse. I risultati dei test, del resto, vanno in una direzione precisa. Il tool ha individuato un numero maggiore di immagini rispetto ad altri strumenti e allo stesso tempo ha ridotto del 48% i falsi positivi, ossia i casi in cui un contenuto innocuo viene scambiato per illecito.
Avvisi, conversazioni cancellate e account sospesi
Sul versante dei propri prodotti la linea dell’azienda resta netta. OpenAI vieta la generazione di immagini sessuali che coinvolgono minori e addestra i suoi modelli a rifiutare richieste di questo genere. La novità riguarda quello che succede a quel punto. Da ora in avanti compariranno avvisi che interrompono la generazione e spiegano con chiarezza le conseguenze, ricordando che si tratta di un reato penale. Un modo per rendere esplicito ciò che prima si traduceva semplicemente in un rifiuto da parte del chatbot.
Le conseguenze, comunque, non restano sulla carta. Le conversazioni contenenti richieste di generare CSAM verranno cancellate e per chi le ha formulate è prevista la sospensione dell’account. Si tratta di un percorso a gradini, che parte dall’avvertimento e passa per lo stop temporaneo. Nei casi di violazioni ripetute la misura diventa ancora più severa e si arriva alla chiusura permanente dell’account.
Fonte: TecnoAndroid


