La questione dei deepfake sessualizzati generati da Grok ha creato un vero terremoto nei rapporti tra Apple e le aziende di Elon Musk. Una lettera inviata a senatori statunitensi rivela ora cosa è successo davvero dietro le quinte, in un periodo in cui l’azienda di Cupertino era rimasta pubblicamente in silenzio ma, a quanto pare, stava agendo con decisione.
Tutto è partito a inizio anno, quando gli utenti hanno scoperto che il chatbot Grok era fin troppo disponibile nel soddisfare richieste di spogliare persone nelle foto, in particolare donne e persino minori. La pressione su Apple perché rimuovesse sia l’app di Grok che quella di X dall’App Store è stata enorme. Eppure, nessuna dichiarazione ufficiale. Silenzio totale. Solo che, come si scopre adesso, quel silenzio nascondeva un’attività piuttosto intensa.
Apple ha contattato i team dietro X e Grok dopo aver ricevuto segnalazioni e aver visto la copertura mediatica dello scandalo. Ha riscontrato che entrambe le app violavano le linee guida dello store e ha richiesto agli sviluppatori di presentare un piano per migliorare la moderazione dei contenuti. Non proprio una pacca sulla spalla, insomma.
Aggiornamenti rifiutati e trattative serrate
La situazione non si è risolta al primo tentativo, anzi. X ha sottoposto un aggiornamento dell’app Grok per la revisione, ma Apple lo ha respinto perché le modifiche non erano ritenute sufficienti. La società di Musk ha quindi inviato versioni aggiornate sia dell’app X che di quella di Grok. Solo una delle due è stata accettata.
Nella lettera ai senatori, Apple ha spiegato di aver stabilito che X aveva sostanzialmente risolto le proprie violazioni, mentre l’app di Grok restava fuori dalle regole. Di conseguenza, la sottomissione di Grok è stata nuovamente respinta e lo sviluppatore è stato avvisato che, senza ulteriori modifiche, l’app sarebbe stata rimossa dall’App Store. Dopo ulteriori interazioni e interventi da parte dello sviluppatore di Grok, Apple ha ritenuto che i miglioramenti fossero sufficienti e ha approvato l’ultima versione inviata.
Questi dettagli, mai resi pubblici fino ad ora, spiegano finalmente quella serie piuttosto confusa di cambiamenti che xAI aveva annunciato nel pieno della bufera: restrizioni su chi poteva usare gli strumenti di generazione immagini di Grok, limiti sulle modifiche a foto di persone reali e altre misure che al tempo sembravano arrivare un po’ alla rinfusa.
Il problema non è ancora del tutto risolto
C’è però un aspetto che rende il quadro meno rassicurante. Nonostante le modifiche apportate, Grok continua a generare immagini sessualizzate di persone senza il loro consenso. Nell’ultimo mese sono stati documentati decine di casi in cui il sistema produce ancora contenuti problematici.
Il volume di immagini è diminuito in modo significativo rispetto a gennaio, questo va detto. Ma un sottoinsieme di utenti riesce ancora ad aggirare le restrizioni, facendo apparire donne in abbigliamento più succinto: asciugamani, reggiseni sportivi, costumi aderenti da Spider Woman o da coniglietta. Tecniche creative, se vogliamo chiamarle così, per superare i filtri messi in piedi dopo lo scandalo.