I deepfake sessuali con Grok sono finiti al centro di una causa legale che coinvolge direttamente l’azienda di Elon Musk. SpaceXAI, quella che fino a poco tempo fa si chiamava xAI, ha deciso di denunciare un uomo della South Carolina, tale Terry Wayne Harwood, accusandolo di aver sfruttato il chatbot per creare immagini sessualizzate di persone reali senza alcun consenso, minori compresi. Nella denuncia depositata, la società sostiene che l’utente abbia aggirato di proposito le protezioni del sistema, provocando danni all’immagine dell’azienda stessa.
La vicenda si inserisce in un periodo piuttosto turbolento per Grok. Tra la fine di dicembre 2025 e i primi giorni di gennaio 2026, su X sono comparse tantissime immagini sessualizzate che ritraevano donne e minori. Le stime parlano di circa 3 milioni di contenuti di questo tipo. Il fenomeno ha preso il volo con l’arrivo della modalità Spicy, una funzione che permetteva di spogliare le persone ritratte nelle foto caricate dagli utenti. Oggi quella modalità è accessibile solo tramite abbonamento, ma il danno ormai era fatto.
Quando la responsabilità ricade sull’utente
Con l’apertura delle prime indagini in vari paesi, Elon Musk aveva messo le mani avanti dicendo che chiunque usasse Grok per produrre contenuti illegali avrebbe subito le stesse conseguenze di chi carica materiale illegale. Harwood, a quanto pare, non ha ascoltato l’avvertimento. Secondo la denuncia ha violato ripetutamente e in modo deliberato i termini di servizio, ha creato diversi account usando false generalità e ha inserito prompt studiati apposta per aggirare i blocchi del sistema.
Il periodo indicato va dall’8 dicembre 2025 al 18 febbraio 2026. In questi mesi l’uomo avrebbe generato deepfake sessuali, sia immagini che video, di adulti e minori, il tutto senza consenso. Nella documentazione compare anche un prompt che Grok si era rifiutato di eseguire, e che l’utente ha poi modificato per aggirare il rifiuto. Un dettaglio che racconta bene quanto fosse consapevole di cosa stava facendo.
L’arresto e le mosse dell’azienda
Il 9 marzo 2026 il Procuratore della South Carolina ha reso nota la cattura di Harwood, avvenuta in realtà già il 26 febbraio 2026, con l’accusa di aver distribuito materiale pedopornografico. Alcune di quelle immagini sarebbero state prodotte proprio con Grok, anche se l’ufficio del Procuratore non ha voluto confermare questo punto.
SpaceXAI chiede ora al giudice di far ricadere sull’imputato le spese legali e un risarcimento per i danni d’immagine. La strategia dell’azienda è chiara nella sostanza: vuole dimostrare che Harwood ha usato Grok in modo non consentito, nonostante lo stesso strumento renda tecnicamente possibile la creazione di questi contenuti. Una posizione che a molti è sembrata un modo per scaricare le colpe sugli utenti.
Sul fronte europeo le cose si muovono comunque. La Commissione europea ha avviato un’indagine su X per una presunta violazione del Digital Services Act. E a metà giugno è arrivata una modifica all’AI Act che introduce il divieto per i sistemi di intelligenza artificiale capaci di creare deepfake sessuali senza consenso.