L’intelligenza artificiale ha fatto passi da gigante nella generazione di immagini realistiche. Ciò sta portando con sé nuove opportunità, ma anche rischi inaspettati. Un esempio recente di tale evoluzione riguarda la capacità dei modelli di AI, come GPT-4o di OpenAI, di creare scontrini, documenti e ricevute false. Con un livello di dettaglio impressionante. La nuova abilità di ChatGPT ha attirato l’attenzione di utenti e ricercatori. Quest’ultimi hanno iniziato a testare i limiti del sistema.
ChatGPT: ecco come funziona la generazione di immagini
Molti hanno condiviso online le loro creazioni. Mostrando scontrini con loghi di ristoranti famosi, prezzi realistici e persino segni di usura. La fedeltà di tali creazioni ha alimentato preoccupazioni sulla possibilità di frodi e raggiri. Specialmente in ambiti come i rimborsi aziendali o le contestazioni di pagamenti.
La questione non si ferma ai semplici scontrini. Alcuni utenti hanno dimostrato come sia possibile generare su ChatGPT anche documenti con informazioni sensibili. Tra cui certificati medici, ricevute di bonifici e persino lettere ufficiali. Anche se la qualità di alcuni dettagli può tradire la natura artificiale di tali immagini, le imperfezioni possono essere facilmente corrette. Ciò utilizzando appositi software di editing, rendendo tali falsi potenzialmente indistinguibili da quelli veri.
OpenAI ha risposto alle preoccupazioni affermando che tutte le immagini generate includono metadati che ne attestano l’origine artificiale. Inoltre, l’azienda ha ribadito che si impegna a monitorare attivamente l’uso della tecnologia per prevenire comportamenti scorretti. Bisogna però capire se tali misure saranno sufficienti per contrastare l’uso fraudolento della generazione automatica di documenti.
Tale problematica si inserisce in un contesto in cui le tecnologie di falsificazione diventano sempre più sofisticate. Governi e aziende stanno cercando soluzioni per rafforzare i meccanismi di verifica. Ma è importante procedere in fretta, considerando la velocità con cui l’AI evolve. Con situazioni come quest’ultime, il confine tra progresso e rischio si fa sempre più sottile.
