In questo articolo Indice dei contenuti 2 sezioni
Dentro Paint potrebbe nascondersi molto più di quanto si vede a schermo, perché un ricercatore di sicurezza sostiene di aver trovato un codice invisibile inserito nelle immagini generate con l’intelligenza artificiale. Non un logo, non una scritta, niente di percepibile a occhio nudo, ma una stringa di dati infilata nel file. E la questione, per come è stata raccontata, riguarda anche l’app Foto di Microsoft.
Il punto di partenza è un problema che conoscono bene sia gli addetti ai lavori sia chi passa qualche ora al giorno sui social. Distinguere una fotografia autentica da una prodotta da un modello generativo sta diventando complicato, almeno guardandola. Esistono metodi tecnici per arrivare a una risposta certa, e proprio per questo un numero crescente di piattaforme sta provando a lasciare una sorta di impronta digitale nei contenuti sintetici, possibilmente senza toccare quello che appare sullo schermo.
Un identificatore univoco dentro il file
La scoperta viene attribuita al ricercatore Xusheng Li, che analizzando le funzioni di intelligenza artificiale delle due applicazioni ha individuato un componente chiamato Watermarker.dll. Secondo la sua ricostruzione, quel modulo si occuperebbe di inserire nelle immagini un GUID, ovvero un identificatore globale univoco da 128 bit, che tradotto in termini più pratici significa 16 byte di informazione.
Sedici byte sembrano nulla, e in effetti sul peso complessivo di un file non cambiano niente. Il nodo è un altro, ed è la parola univoco. Un’impronta che serve a dire “questa immagine è stata creata con l’AI” è una cosa. Un codice che è diverso per ogni immagine, o comunque non riconducibile a una categoria generica, è un’altra faccenda, perché apre la strada a una tracciabilità molto più precisa del singolo contenuto.
Non è il logo di Copilot
Va chiarito un aspetto che rischia di generare confusione. Il codice individuato non ha niente a che vedere con il piccolo logo Copilot che può comparire sulle immagini generate dagli strumenti Microsoft. Quella è una filigrana visibile, la si nota, se serve la si ritaglia, e in ogni caso comunica in modo esplicito l’origine artificiale del contenuto.
Il meccanismo descritto dal ricercatore lavora su un piano diverso. Resta invisibile e, sempre secondo quanto emerso dall’analisi, funzionerebbe in modo indipendente dalla marcatura visibile. Vale a dire che la sua presenza non dipenderebbe dal fatto che sull’immagine compaia o meno il marchio grafico.
Il tema del watermark invisibile non nasce oggi ed è uno dei terreni su cui si stanno muovendo quasi tutti i grandi nomi del settore, con l’obiettivo dichiarato di rendere riconoscibili i contenuti sintetici e limitare gli abusi. La differenza fra un’etichetta generica e un identificatore che punta a un singolo file, però, è enorme dal punto di vista della privacy, e spiega perché questa segnalazione abbia attirato attenzione.
