Una delle vicende più agghiaccianti legate a immagini pedopornografiche generate con Grok è finita in una proposta di class action, ampliata martedì con nuovi elementi. Adesso alcune ragazze accusano X e xAI non solo di aver costruito strumenti di intelligenza artificiale capaci di “spogliare” chiunque, ma anche di proteggere i predatori ostacolando le indagini della polizia sul cosiddetto materiale pedopornografico creato dall’AI.
A marzo, secondo la denuncia modificata, un uomo si è tolto la vita dopo che gli agenti avevano scoperto l’uso che faceva di questa tecnologia. Aveva usato Grok per produrre 7.000 immagini sessualmente esplicite partendo da una singola foto della figliastra, scattata quando lei aveva solo 11 anni. Il sistema, stando all’accusa, gli ha permesso di generare contenuti estremi che raffiguravano incesto e stupro senza segnalare nulla. Solo quando l’uomo ha digitato un prompt che chiedeva uno “stupro di gruppo” il meccanismo di sicurezza di xAI è intervenuto, inviando una segnalazione al National Center for Missing and Exploited Children, che a sua volta ha allertato le forze dell’ordine.
Eppure il danno non si è fermato lì. Nonostante gli obblighi di segnalazione impongano di condividere dati come l’indirizzo IP quando emerge CSAM, xAI avrebbe rifiutato più volte di collaborare con la polizia o con il centro per identificare l’utente. Per settimane, sostiene la denuncia, l’azienda avrebbe “ostacolato l’indagine a ogni passo”, rendendo più difficile localizzare e arrestare il colpevole.
L’uomo è stato poi fermato solo dopo che gli agenti hanno ottenuto un mandato per sequestrare i suoi dispositivi. Un’analisi forense ha rivelato circa 7.000 immagini e video generati dall’AI che ritraevano la figliastra. Due giorni dopo il rilascio su cauzione, si è sparato. La ragazza, indicata come Jane Doe 4, è precipitata in una crisi personale devastante, tra ansia, depressione e pensieri suicidi.
Grok: le accuse contro xAI e l’ingresso di Stability AI
Gli avvocati degli studi Lieff Cabraser Heimann & Bernstein e Baehr-Jones Law spiegano che quello di Jane Doe 4 non è un caso isolato. All’inizio del 2026 il centro nazionale ha rilevato che il 90 per cento delle segnalazioni inviate da xAI risultava inutilizzabile dalle forze dell’ordine, perché l’azienda si rifiutava di includere le informazioni sugli utenti necessarie per rintracciare i responsabili. Nel caso della ragazza, la segnalazione conteneva solo la foto originale, non le migliaia di immagini generate, e nessun indirizzo IP.
Secondo l’accusa, xAI evita di condividere questi dati per mettere i profitti davanti alla sicurezza dei minori. “Avevano tutto ciò che serviva per aiutare la polizia e fermare il responsabile”, ha dichiarato Jane Doe 4, raccontando come una sua foto da bambina addormentata sul divano sia stata trasformata in migliaia di immagini esplicite. Un’altra ragazza, Jane Doe 5, è stata presa di mira da un amico di famiglia adulto che ugualmente avrebbe diffuso online immagini prodotte con Grok.
Il fondatore di xAI, Elon Musk, ha negato che Grok sia mai stato usato per creare immagini sessuali di minori. Ma i ricercatori stimano che le protezioni deboli del sistema abbiano già colpito decine di migliaia di ragazzini. L’unica mossa concreta di xAI, sostiene la denuncia, è stata rendere a pagamento la funzione, garantendosi così un guadagno su ogni contenuto illecito.
Nella causa modificata è stata aggiunta anche Stability AI come imputata. I suoi modelli open weight sarebbero stati addestrati su materiale pedopornografico e farebbero da base a diverse app di “nudify”. Un rapporto di giugno indicava la famiglia Stable Diffusion come principale motore delle immagini di nudificazione online, con il 42,7 per cento del totale.
La causa punta ora a coprire due classi distinte, una per ciascuna azienda, con sottoclassi dedicate al Tennessee. Gli avvocati stimano che migliaia di minori possano avere diritto a unirsi. Nel 2025 il centro nazionale aveva già segnalato un’impennata di casi legati all’AI generativa, con oltre 1,5 milioni di segnalazioni e più di 133.000 situazioni in cui mancavano dati sufficienti a capire come fosse stata usata la tecnologia. Annika K. Martin, tra i legali delle vittime, ha definito questi contenuti “una piaga sociale che tocca ogni comunità”.
