In questo articolo Indice dei contenuti 2 sezioni
Una nuova causa contro OpenAI accusa l’azienda di aver raccolto illegalmente i dati dei minori per addestrare ChatGPT, il chatbot più redditizio al mondo. A promuoverla sono due giovani querelanti delle Hawaii, secondo cui la società avrebbe attinto alle informazioni di milioni di bambini e ragazzi. In cambio chiedono una quota dell’azienda oppure il suo equivalente in denaro.
L’azione legale, intitolata Jane Doe contro OpenAI Foundation, è stata depositata martedì da una madre per conto dei suoi due figli, una ragazzina di 12 anni e un ragazzo di 16. Al centro c’è il tema del consenso dei genitori. I termini d’uso di OpenAI stabiliscono che chi ha meno di 18 anni deve avere il permesso di un genitore o di un tutore legale per usare il servizio, ma secondo la denuncia i minori riescono comunque a registrarsi e l’azienda non verifica mai che quell’autorizzazione esista davvero.
L’accusa va oltre. Il documento sostiene che ChatGPT spinga i ragazzi a condividere informazioni estremamente personali su salute, relazioni, sogni, emozioni, paure e insicurezze, oltre a foto del volto e del corpo e registrazioni vocali. “I bambini sono un libro aperto per ChatGPT, che strappa metodicamente ogni pagina di informazioni in loro possesso”, si legge nella denuncia. Lusingando i più giovani, assecondando i loro sentimenti e ponendo domande provocatorie, il chatbot li porterebbe a fidarsi di lui più di quanto farebbero con un fratello, un amico, un insegnante o un genitore. Lo scopo, secondo i querelanti, sarebbe accumulare enormi quantità di dati per addestrare i modelli e costruire profili dei minori.
La richiesta di risarcimento calcolata in token
I promotori vogliono che la causa venga riconosciuta come class action: se la richiesta fosse accolta, chiunque negli Stati Uniti abbia usato ChatGPT prima dei 18 anni potrebbe unirsi. Il risarcimento chiesto è curioso. OpenAI dovrebbe pagare in azioni o in contanti in proporzione al numero di token che ciascun ragazzo ha fornito tramite il chatbot. I token sono l’unità con cui le aziende di intelligenza artificiale misurano l’utilizzo, e secondo la stessa OpenAI una conversazione di 75 parole vale circa 100 token.
Nella denuncia c’è anche una frecciata. L’azienda ha più volte dichiarato di voler condividere con il pubblico parte della ricchezza generata dai suoi modelli, e questa causa le offrirebbe l’occasione di farlo “a partire dalle sue tante vittime bambine”. Proprio quest’anno il CEO Sam Altman aveva illustrato l’idea di un fondo pubblico per distribuire i ricavi dell’intelligenza artificiale alle persone, anche per incoraggiarle a investire nel settore. OpenAI non ha risposto subito a una richiesta di commento.
Si tratta di una delle decine di cause intentate contro la società negli ultimi anni. Alcune accusano ChatGPT di aver contribuito a suicidi, autolesionismo e crisi di salute mentale. Un altro gruppo sostiene che OpenAI non abbia avvisato le autorità dell’attività segnalata di un utente prima che questi uccidesse diverse persone in una scuola di Tumbler Ridge, nella Columbia Britannica, in Canada. Altre ancora riguardano l’uso di materiale protetto da diritto d’autore per l’addestramento.
Le conversazioni con la dodicenne e le critiche a ChatGPT for Teens
La denuncia riporta diversi scambi tra la ragazzina, indicata come MC1, e il chatbot. A un certo punto lei dichiara di avere solo 12 anni, ma la conversazione prosegue senza intoppi, sebbene OpenAI richieda almeno 13 anni e il consenso dei genitori. All’inizio le domande riguardavano idee per la cena e i compiti, poi i dialoghi sono scivolati su salute, aspetto fisico ed emozioni. Quando la bambina chiede perché tutto la faccia arrabbiare, soprattutto le richieste della madre, e ripete di avere 12 anni, il bot risponde con un’emoji a forma di cuore ringraziandola e spiegando che quell’età aggiunge un contesto importante.
Secondo l’accusa la ragazzina inviava spesso selfie chiedendo commenti su guance paffute, brufoli e sulla paura di essere “brutta”. Quando ha chiesto un voto al suo aspetto, il chatbot ha risposto entusiasta proponendo una valutazione su lineamenti, acconciatura, stile e simmetria. Col tempo avrebbe persino iniziato a imitare il suo modo di scrivere, emoji comprese. Per i querelanti tutto questo serviva ad addestrare i modelli e a costruire un dossier personale da conservare a tempo indeterminato e sfruttare poi per la pubblicità.
Questo mese l’organizzazione Common Sense Media ha definito ChatGPT for Teens, lanciato ad agosto, un “rischio inaccettabile” per gli adolescenti, perché non avvisava i genitori quando si parlava di suicidio, autolesionismo o disturbi alimentari e spesso si limitava a fornire le soluzioni dei compiti. OpenAI ha replicato che il servizio segnalerà ai genitori gli argomenti ad alto rischio e aiuterà i ragazzi nello studio e nella preparazione dei test.
Donna Rice Hughes, presidente e CEO dell’organizzazione Enough is Enough, vede nella vicenda l’ennesimo esempio della mentalità del settore che punta a muoversi in fretta anche a costo di rompere tutto. Permettere a una dodicenne di caricare foto per farsi “giudicare” non è solo preoccupante, ha detto, ma è un abuso. Hughes ha chiesto al Congresso di approvare diverse proposte sulla sicurezza dei minori, tra cui Youth AI Privacy Act, CHATBOT Act e Guard Act, provvedimenti che si sono arenati dopo il via libera delle rispettive commissioni.
Fonte: TecnoAndroid