Le indagini contro xAI per i deepfake sessuali non consensuali generati dal chatbot Grok continuano ad accumularsi, e questa volta la mossa arriva da un fronte inedito: una città americana. Baltimora, guidata dal sindaco democratico Brandon Scott, ha presentato una denuncia formale il 24 marzo 2026, coinvolgendo non solo xAI ma anche X (la piattaforma social acquisita da xAI) e SpaceX (che a sua volta ha acquisito xAI). È la prima volta che un’amministrazione cittadina negli Stati Uniti decide di agire legalmente contro le aziende di Elon Musk su questo terreno.
I fatti contestati risalgono a un periodo compreso tra la fine del 2025 e l’inizio del 2026. Grok, su richiesta degli utenti, ha iniziato a generare immagini sessualizzate di persone reali a partire da foto caricate su X o nell’app, il tutto senza alcun consenso da parte dei soggetti ritratti. Secondo le stime del Center for Countering Digital Hate, tra il 29 dicembre 2025 e l’8 gennaio 2026 sarebbero state prodotte circa 3 milioni di immagini, di cui circa 23.000 raffiguranti minori. Un dato che fa venire i brividi, a prescindere da qualsiasi considerazione tecnica o legale.
Regole violate e protezioni mancanti
Il punto dolente, sottolineato nella denuncia, è che i termini di servizio sia di X che di xAI vietano esplicitamente la pubblicazione e la generazione di contenuti sessuali non consensuali riguardanti persone reali. Eppure, nonostante queste regole scritte nero su bianco, le aziende non avrebbero implementato protezioni adeguate né un sistema di verifica dell’età. La funzionalità di Grok non è stata eliminata: è stata semplicemente limitata agli utenti con abbonamento a pagamento. Una scelta che, secondo la Consumer Protection Ordinance di Baltimora, rappresenta una pratica commerciale sleale e ingannevole.
Il sindaco Brandon Scott non ha usato mezzi termini: «Questi deepfake, soprattutto quelli che ritraggono minori, hanno conseguenze traumatiche e permanenti per le vittime. Stiamo parlando di aziende tecnologiche che rendono possibile lo sfruttamento sessuale dei bambini. La nostra città non resterà a guardare.» Nella denuncia viene chiesto un risarcimento danni per ciascuna violazione accertata.
Un fronte che si allarga, dagli Stati Uniti all’Europa
Baltimora è la prima città statunitense a muoversi, ma non certo il primo soggetto istituzionale. Già a metà gennaio 2026 era arrivata la denuncia dello Stato della California, seguita da una diffida formale. Dal maggio 2025, inoltre, è in vigore il Take It Down Act, una legge federale che vieta la pubblicazione di immagini intime e deepfake non consensuali, imponendo la rimozione entro 48 ore dalla segnalazione. Questa norma, però, non risulta essere stata applicata nel caso di Grok.
Il fronte si è aperto anche oltreoceano. La Commissione europea ha avviato un’indagine per possibile violazione del Digital Services Act, mentre il Parlamento europeo ha integrato l’AI Act con il divieto esplicito per i sistemi di intelligenza artificiale che creano o manipolano immagini sessualmente esplicite di soggetti identificabili senza il loro consenso.
