Il chatbot Grok, sviluppato da xAI (la società di Elon Musk dedicata all’intelligenza artificiale), si ritrova di nuovo travolto da accuse gravissime legate alla generazione di immagini. Questa volta la questione è ancora più delicata, perché riguarda la creazione di contenuti classificabili come CSAM, ovvero materiale che ritrae abusi sessuali su minori. Tre adolescenti hanno deciso di passare alle vie legali, sostenendo che le loro fotografie personali siano state utilizzate attraverso Grok per produrre materiale pedopornografico. La risposta è stata una class action depositata contro xAI, che potrebbe avere conseguenze enormi per l’intero settore dell’intelligenza artificiale generativa.
Grok, una questione che parte da dicembre 2025
Stando a quanto riportato nel fascicolo dell’inchiesta, tutto sarebbe partito lo scorso dicembre. Una delle ragazze coinvolte è stata avvertita che qualcuno stava condividendo video e immagini, creati tramite intelligenza artificiale, in cui lei e altre minorenni comparivano in contesti apparentemente familiari, ma modificati per inserirle in pose sessualmente esplicite. Un dettaglio che rende il tutto ancora più inquietante riguarda la diffusione di questi contenuti: sarebbero stati fatti circolare su piattaforme come Discord e Telegram, dove venivano usati come merce di scambio per ottenere ulteriore materiale dello stesso tipo. Le indagini successive hanno permesso di risalire allo strumento utilizzato per la generazione di quelle immagini, e il dito punta dritto verso Grok.
Grok nei guai, ma non è la prima volta
Non è la prima volta che Grok finisce sotto i riflettori per problemi legati ai contenuti generati dalla sua piattaforma. Le funzionalità di generazione di immagini basate sull’intelligenza artificiale sono al centro di un dibattito sempre più acceso, soprattutto quando si parla di tutela dei minori. Il punto critico, e questo caso lo dimostra in modo lampante, sta nei filtri di sicurezza e nei meccanismi di moderazione che dovrebbero impedire la creazione di contenuti illegali o dannosi.
La class action contro xAI potrebbe diventare un caso di riferimento per stabilire fino a che punto le aziende che sviluppano strumenti di intelligenza artificiale generativa siano responsabili dell’uso che ne viene fatto. Perché una cosa è fornire uno strumento creativo, un’altra è permettere che quello strumento venga sfruttato per produrre materiale pedopornografico senza che vengano attivate protezioni adeguate.
