In questo articolo Indice dei contenuti 2 sezioni
Oltre 400 app IA dall’aspetto del tutto innocuo sarebbero state utilizzate per produrre deepfake illeciti, ed è questo il quadro emerso da un’inchiesta che ha costretto Apple, Google e Meta a intervenire in fretta. Le tre aziende hanno avviato la rimozione delle applicazioni coinvolte e degli annunci pubblicitari che le promuovevano, nel tentativo di arginare un fenomeno cresciuto sotto gli occhi di tutti senza che nessuno se ne accorgesse davvero.
Il punto più inquietante riguarda proprio l’apparenza di questi software. Non si trattava di programmi dichiaratamente pensati per scopi discutibili, anzi. Sulla vetrina degli store digitali comparivano come strumenti qualunque, di quelli che migliaia di persone scaricano ogni giorno senza pensarci troppo, con icone colorate e descrizioni rassicuranti.
Dietro la facciata di app innocue
Un generatore di ritratti per animali domestici, un tutor per imparare le lingue, un coach per l’allenamento. Sulla carta niente di strano, il genere di applicazioni basate sull’intelligenza artificiale che ormai affollano i cataloghi di qualsiasi smartphone. Eppure per alcuni utenti queste stesse app diventavano qualcosa di molto diverso, cioè strumenti capaci di creare contenuti falsi a sfondo sessuale e violento partendo da fotografie di persone reali.
Ed è qui che la faccenda si fa seria. Il problema non sta soltanto nella tecnologia in sé, che di per sé può avere usi del tutto legittimi, ma nel modo in cui queste funzioni venivano nascoste dietro un’interfaccia apparentemente banale. Chi cercava un’app per far diventare il proprio cane un dipinto rinascimentale non aveva motivo di sospettare nulla. Chi invece sapeva cosa cercare poteva sfruttare gli stessi strumenti per manipolare le immagini di persone reali, con tutte le conseguenze che un abuso del genere comporta per le vittime.
Il numero colpisce. Parlare di oltre 400 applicazioni significa che non si tratta di un caso isolato o di qualche sviluppatore furbo sfuggito ai controlli, ma di un fenomeno piuttosto esteso che ha attraversato più piattaforme contemporaneamente. Un dato che pesa parecchio sulla reputazione dei sistemi di verifica dei grandi marketplace, da sempre presentati come garanzia di sicurezza per chi scarica software sul proprio telefono.
Apple, Google e Meta corrono ai ripari
Di fronte ai risultati dell’indagine la reazione dei colossi tecnologici non si è fatta attendere. Apple e Google, che gestiscono i due principali negozi di applicazioni per dispositivi mobili, hanno iniziato a eliminare i software segnalati dai rispettivi cataloghi. Una mossa doverosa, considerando che proprio la loro supervisione dovrebbe impedire a questo tipo di prodotti di arrivare sugli smartphone degli utenti.
Anche Meta si è mossa, ma su un fronte leggermente diverso. Il gruppo che controlla alcuni dei social network più frequentati al mondo è intervenuto sugli annunci pubblicitari, rimuovendo le inserzioni che promuovevano queste app. Un passaggio tutt’altro che secondario, perché la pubblicità rappresenta spesso la porta d’ingresso principale attraverso cui un’applicazione riesce a raggiungere un vasto pubblico in poco tempo.
La vicenda mette insieme due livelli distinti dello stesso problema. Da una parte ci sono gli store, chiamati a valutare ciò che viene pubblicato. Dall’altra le piattaforme pubblicitarie, che contribuiscono a dare visibilità a questi prodotti. In entrambi i casi le maglie si sono rivelate abbastanza larghe da lasciar passare centinaia di app IA che, dietro la promessa di ritratti per animali, lezioni di lingua o schede di allenamento, consentivano di generare deepfake sessuali e violenti a partire da foto di persone reali.
Fonte: TecnoAndroid