xAI ha deciso di portare in tribunale lo stato del Minnesota per contestare una nuova legge che vieta le cosiddette app “nudify”, quei software capaci di generare immagini intime senza il consenso delle persone ritratte. La società, oggi ufficialmente conosciuta come SpaceXAI dopo la fusione delle due aziende di Elon Musk, ha presentato una causa contro il procuratore generale del Minnesota Keith Ellison, sostenendo che la norma sia troppo ampia e finisca per calpestare la libertà di espressione.
La legge in questione è la prima del suo genere negli Stati Uniti. È stata approvata dal governatore Tim Walz all’inizio di quest’anno e dovrebbe entrare in vigore ad agosto. Oltre a bloccare app e siti web in grado di creare immagini intime non consensuali, prevede sanzioni per gli sviluppatori ogni volta che qualcuno usa i loro strumenti per produrre deepfake sessuali.
Cosa sostiene la società di Musk nella causa
Nel documento depositato, l’azienda parla di un divieto “eccessivamente ampio, basato sul contenuto, che colpisce la libertà di parola e gli strumenti dell’espressione visiva con un tentativo goffo di proibire la nudificazione”. xAI mette le mani avanti e precisa di non voler mettere in discussione l’interesse del Minnesota nel vietare la diffusione di immagini di nudo generate artificialmente di persone reali senza il loro consenso. Il problema, secondo la società, è che la legge “va ben oltre questo obiettivo, esponendo un’ampia gamma di espressioni protette a responsabilità civile e a sanzioni statali”. Il punto più delicato riguarda le multe. La norma imporrebbe agli sviluppatori una sanzione da EUR 439.870, circa 460.000 euro, ogni volta che un utente genera un deepfake di un adulto senza consenso usando i loro prodotti. Con una regola simile, spiega l’azienda, non ci sarebbe “altra scelta pratica che limitare in vari modi le funzioni di modifica delle immagini di Grok Imagine” a partire dal primo agosto 2026. La conseguenza, sostiene sempre xAI, è che verrebbe raffreddata anche l’espressione protetta finora liberamente disponibile. La richiesta al tribunale è chiara: dichiarare la legge incostituzionale e impedirne l’applicazione.
I guai giudiziari e le indagini in corso
La società è finita sotto pressione fin dall’inizio dell’anno, quando sono emerse notizie sul fatto che permetteva agli utenti di trasformare foto di donne e bambini reali in immagini sessualizzate. Diverse autorità hanno aperto indagini, dalla California all’Ofcom nel Regno Unito, passando per la Commissione Europea e il garante irlandese per la protezione dei dati. E anche dopo aver introdotto misure per bloccare i deepfake non consensuali, il sistema continuava a consentire agli utenti di “spogliare” le persone.
Nella causa, xAI ribatte che vieta rigorosamente ai propri utenti di generare immagini di nudo o sessualizzate senza consenso, tanto da aver a sua volta fatto causa a chi aggira i suoi filtri tecnologici. Di recente, per esempio, ha denunciato un utente della Carolina del Sud che aveva usato Grok per creare immagini intime non consensuali partendo da foto reali di numerosi adulti e minori.