In questo articolo Indice dei contenuti 2 sezioni
Capire se una foto, un video o una traccia audio siano stati creati con l’intelligenza artificiale sta diventando un esercizio sempre più complicato, e Google ha deciso di dare una mano a tutti rendendo disponibile a livello globale SynthID Detector. Lo strumento, che fino a poco tempo fa era riservato ai professionisti dei media, adesso può essere utilizzato da chiunque in qualsiasi Paese, anche se per il momento soltanto in lingua inglese.
Il principio alla base è piuttosto semplice. Si carica un’immagine, un filmato o un file audio e il sistema controlla se al suo interno è presente un watermark invisibile compatibile con SynthID. Quando la verifica dà esito positivo vuol dire che quel contenuto è stato generato da Google oppure da uno dei suoi partner. E la lista non è affatto corta, visto che comprende nomi come OpenAI, NVIDIA e Kakao, con Apple pronta ad aggiungersi prossimamente.
Miliardi di contenuti già marcati senza che nessuno se ne accorga
La tecnologia non è nata ieri. SynthID esiste dal 2023 e secondo Google DeepMind ha già contrassegnato oltre 180 miliardi tra immagini e video, oltre a qualcosa come 240.000 anni di contenuti audio. Numeri che fanno impressione e che danno l’idea di quanto materiale prodotto dalle macchine circoli già in rete, spesso senza che la maggior parte delle persone ne abbia la minima consapevolezza.
Il segreto sta tutto nel modo in cui il marchio viene applicato. Il watermark di SynthID non si vede a occhio nudo e viene incorporato direttamente nel contenuto nel momento stesso in cui quest’ultimo viene generato. Non si tratta quindi della classica filigrana che si può cancellare con pochi passaggi, magari sfruttando proprio un altro strumento di intelligenza artificiale. Il segno è intrecciato con i dati del file e per questo risulta molto più resistente rispetto a una semplice etichetta testuale.
Questo però non significa che il sistema sia infallibile. Un’immagine o un audio potrebbero comunque essere stati ritoccati con altre piattaforme che non aderiscono al programma, e in quel caso la verifica dell’origine diventa decisamente meno affidabile. È un limite noto, legato al fatto che gli strumenti generativi nascono e si evolvono praticamente ogni giorno.
Un tassello di un ecosistema più ampio
Google tiene a precisare che SynthID Detector non lavora da solo. Si affianca infatti ad altre funzioni già attive su Search, sull’app Gemini e su Chrome, pensate anch’esse per ricostruire la provenienza dei contenuti. L’obiettivo dichiarato è costruire un ambiente in cui stabilire da dove arrivi una foto o una registrazione sia un’operazione sistematica, senza dover contare esclusivamente sull’occhio umano, che davanti ai risultati più recenti dei modelli generativi rischia di farsi ingannare con estrema facilità.
La partita sulla trasparenza dei contenuti generati dall’intelligenza artificiale è appena cominciata e una soluzione universale appare ancora lontana. In questo scenario aderire a SynthID potrebbe trasformarsi in un requisito fondamentale per garantire credibilità a chi produce o pubblica materiale di questo tipo. Intanto i numeri raccontano già un utilizzo consistente, perché gli strumenti di verifica integrati nei servizi di Google gestiscono ogni giorno oltre un milione di richieste da parte di utenti che vogliono sapere se ciò che hanno davanti sia autentico oppure sintetico.
Fonte: TecnoAndroid
