In questo articolo Indice dei contenuti 2 sezioni
OpenAI ha deciso di inserire un watermark invisibile nel testo prodotto da ChatGPT e da Codex. Si tratta di una sorta di firma che le persone non vedono ma che le macchine sono in grado di leggere. La scelta nasce da un obbligo preciso, perché l’AI Act europeo impone regole di trasparenza sui contenuti generati dall’intelligenza artificiale. Su questa strada si era già mossa Anthropic, e ora l’azienda californiana segue lo stesso percorso. Alla base di tutto c’è textGrain, una tecnologia sviluppata internamente che secondo OpenAI offre risultati migliori rispetto alle alternative concorrenti, compresa SynthID di Google.
Cosa prevede l’AI Act e come funziona textGrain
La data da segnare è il 2 agosto 2026. Da quel giorno, come stabilito dall’articolo 50 comma 2 dell’AI Act, per i nuovi modelli di intelligenza artificiale diventa obbligatorio indicare la provenienza dei contenuti. Il principio è piuttosto semplice da spiegare: gli utenti devono poter capire se un testo, un’immagine, un file audio o un video sono stati generati oppure modificati da un sistema automatico. Per rispondere a questa richiesta OpenAI ha messo a punto textGrain, che applica un segno nascosto alle risposte di ChatGPT e Codex.
Per ora il watermark è disponibile soltanto per gli sviluppatori che accedono ai modelli attraverso le API. Non è una scelta casuale, perché così chi costruisce applicazioni può valutare in che modo questa marcatura si concili con i propri obblighi di trasparenza. In una fase successiva la firma digitale verrà estesa anche agli output dei modelli accessibili tramite i servizi cloud.
Il passo più atteso arriverà nelle prossime settimane, quando il watermark comparirà nel testo generato da ChatGPT e Codex in tutti i piani. Con un limite geografico però, visto che la novità riguarderà esclusivamente l’Unione europea. Sarà poi OpenAI, sulla base dei riscontri raccolti, a decidere se portare il sistema anche nel resto del mondo. Nel frattempo ricercatori e organizzazioni di esperti possono già provare lo strumento che rileva la presenza della marcatura. Il tool è pensato per funzionare senza identificare l’utente e senza risalire al contenuto della conversazione.
Prestazioni, limiti e il caso di immagini e audio
Una delle preoccupazioni più comuni quando si parla di marcature di questo tipo riguarda la qualità delle risposte. In base ai test condotti con Astra non emergono differenze evidenti tra le prestazioni del modello con o senza watermark. OpenAI rivendica inoltre la superiorità di textGrain rispetto a SynthID, la soluzione sviluppata da Google.
L’azienda ha comunque voluto mettere in chiaro i limiti che questo genere di tecnologia porta con sé. Il watermark non misura quanto contributo umano ci sia in un testo e non stabilisce chi ne detenga la proprietà o la responsabilità. Non verifica nemmeno se le informazioni riportate siano vere. C’è poi un aspetto da non sottovalutare, perché l’assenza della firma non dimostra che un contenuto sia stato scritto da una persona. Può capitare infatti che il testo sia troppo corto oppure che sia stato tradotto o alterato, e in tutti questi casi la marcatura potrebbe semplicemente non esserci.
Per immagini e audio il discorso cambia. Qui OpenAI si affida ai metadati C2PA (Content Provenance and Authenticity) insieme al watermark SynthID. Gli utenti possono controllare se un contenuto è stato generato o modificato attraverso un apposito strumento web.
Fonte: TecnoAndroid
