La società xAI di Elon Musk ha deciso di trascinare in tribunale un uomo del South Carolina accusato di aver sfruttato il chatbot Grok per generare materiale pedopornografico, in inglese indicato con la sigla CSAM. Secondo la causa, l’uomo, Terry Wayne Harwood, avrebbe “usato consapevolmente e intenzionalmente Grok per aggirare le protezioni, alterare immagini non consensuali e generare e distribuire CSAM”, violando così le regole della piattaforma.
Harwood era stato arrestato a febbraio con l’accusa di possesso e distribuzione di materiale pedopornografico, e adesso deve rispondere di otto capi d’imputazione per reati gravi. La documentazione legale sostiene che “almeno alcune” delle immagini collegate ai suoi guai giudiziari sarebbero state “generate o modificate” proprio con Grok. In pratica l’uomo avrebbe scavalcato i filtri di sicurezza dello strumento, trasformando fotografie normali, non sessuali, in immagini sessualmente esplicite. Il tutto senza il consenso delle persone ritratte, un dettaglio che pesa parecchio.
Dalla modalità spicy alla valanga di deepfake
Tutto questo arriva dopo una scelta precisa fatta lo scorso anno. xAI aveva introdotto una modalità chiamata “spicy” per il suo chatbot, aggiungendo poi la possibilità di modificare le immagini direttamente tramite Grok. Il risultato è stato un fiume di deepfake a sfondo sessuale generati dall’intelligenza artificiale, alcuni dei quali raffiguravano perfino minori. Non è un problema teorico. A marzo un gruppo di adolescenti aveva già fatto causa alla società, sostenendo che Grok avesse prodotto immagini sessualizzate che li ritraevano da minorenni.
A quella vicenda Elon Musk aveva risposto in modo diretto, dicendo che “chiunque usi Grok per creare contenuti illegali subirà le stesse conseguenze come se caricasse contenuti illegali”. Le parole restano parole, ma stavolta sembra essere la prima volta che la società passa davvero alle vie legali contro un singolo utente per i deepfake creati con il suo strumento. Un cambio di passo, insomma.
Cosa chiede la società al giudice
Nel documento depositato, xAI sostiene che il comportamento dell’uomo abbia esposto l’azienda a “un rischio legale significativo e a danni reputazionali”. Non una sfumatura da poco, considerando quanto sia delicato il tema. Per questo la società ha chiesto al tribunale di condannare Harwood a risarcire i danni, comprese le “spese ragionevoli sostenute per difendersi in qualsiasi azione legale intentata da una vittima” della sua condotta.
C’è poi un’ultima richiesta, forse la più semplice da immaginare. La società vuole che il giudice impedisca all’uomo di aprire un nuovo account xAI e di utilizzare ancora Grok. Una barriera all’ingresso, per evitare che la storia possa ripetersi con lo stesso protagonista.