L’impiego diffuso dell’intelligenza artificiale generativa nelle prossime elezioni presidenziali americane suscita preoccupazioni significative riguardo ai potenziali danni che potrebbero derivarne. In tale contesto, Midjourney, una delle piattaforme più utilizzate per la creazione di immagini da zero mediante l’ausilio dell’AI, sta seriamente considerando l’adozione di misure drastiche, incluso il divieto per gli utenti di utilizzare la sua piattaforma per generare immagini a sfondo politico. Questa decisione è stata presa in risposta alla crescente minaccia di disinformazione veicolata attraverso l’uso distorto di immagini create artificialmente.
Secondo quanto riportato da Bloomberg, David Holz, CEO di Midjourney, ha dichiarato che l’azienda si sta avvicinando a implementare un divieto temporaneo, che potrebbe estendersi per i prossimi 12 mesi, sulle immagini raffiguranti figure politiche di spicco come Biden e Trump. Questo annuncio è stato reso pubblico durante una discussione su Discord, dove Holz ha sottolineato l’importanza di evitare il contributo involontario alla disinformazione, specialmente in un periodo così delicato come quello delle elezioni presidenziali.
Midjourney contro le deepfake
Questa decisione segue il precedente impegno di Midjourney, nel marzo dello scorso anno, quando l’azienda ha sospeso le prove gratuite per la sua AI generativa. Tale provvedimento era stato preso in risposta alla diffusione di deepfake relativi all’arresto di Trump, generati utilizzando la piattaforma.
Nonostante Midjourney abbia già implementato divieti automatizzati per prevenire la creazione di immagini offensive o fuorvianti, sembra che queste restrizioni non siano sufficienti. È emerso che alcune versioni del software permettono ancora la creazione di immagini politiche.
La decisione di Midjourney di vietare la creazione di immagini politiche sulla sua piattaforma è stata accolta con scetticismo da parte di alcuni esperti. Hany Farid, professore di informatica forense all’Università della California, ha sottolineato che tale divieto potrebbe non risolvere il problema più ampio della disinformazione politica. Nonostante tali scetticismi, l’azienda ha ritenuto che questa fosse la mossa più prudente per mitigare i rischi e preservare l’integrità del processo democratico, almeno nel breve termine.
L’adozione di misure proattive come il divieto imposto da Midjourney è un segnale dell’urgente necessità di affrontare le sfide poste dall’uso distorto dell’AI. Questo discorso vale sia per le elezioni che per la sfera politica in generale. Resta da vedere se tali misure saranno efficaci nel contrastare la diffusione della disinformazione e nel proteggere l’integrità del dibattito pubblico.