Un’applicazione che grazie all’uso di algoritmi basati sull’intelligenza artificiale è in grado di trasformare una qualsiasi immagine di una persona vestita in un finto nudo: DeepNude è stata rimossa dagli Store direttamente dal suo creatore, dopo essersi reso conto di quanto potesse essere pericoloso uno strumento del genere.

A preoccupare, infatti, non era solamente la sua estrema facilità d’utilizzo, ma anche il fatto che il software funzionasse solo con immagini di donne restituendo dei falsi nudi di cui potenziali molestatori potevano servirsi per ricattare la propria vittima anche senza essere mai realmente entrati in possesso di una sua foto compromettente.

DeepNude, l’app che spoglia le donne è stata rimossa dagli Store

DeepNude è stata lanciata sugli Store lo scorso 23 Giugno, per poi essere ritirata quattro giorni dopo, quando i suoi stessi sviluppatori si sono resi conto della sua pericolosità.

L’applicazione, infatti, partendo dalla foto di una donna vestita riusciva in meno di trenta secondi a restituire dei falsi nudi di altissimo livello attingendo ad un database di oltre diecimila immagini di donne nude. Facendo ricordo all’intelligenza artificiale, poi, DeepNude era in grado di denudare il soggetto dell’immagine (si ricorda che il software funzionava esclusivamente con soggetti femminili) sostituendo i vestiti con nudità che meglio si adeguavano alla fisicità della donna.

Insomma, DeepNude rappresentava sicuramente uno strumento potenzialmente molto pericoloso, considerata la sua facilità d’uso e l’enorme popolarità che è riuscito a riscuotere in pochissimi giorni: questo, infatti, poteva molto semplicemente essere utilizzato dai molestatori per ricattare qualcuno generando dei deepfake, ovvero delle false immagini di altissimo livello di ragazze da diffondere poi nelle chat di WhatsApp, Messenger o sui Social Network, danneggiando la reputazione della vittima.

“Non avremmo mai immaginato che DeepNude sarebbe diventata virale al punto tale da non riuscirne a controllare il traffico […] Il rischio di abusi è troppo alto, non vogliamo fare soldi in questa maniera”, hanno comunicato gli autori, per giustificare la rimozione del software da tutti gli Store.