In questo articolo Indice dei contenuti 2 sezioni
Nell’Unione Europea i testi prodotti da ChatGPT e da Codex conterranno presto un watermark invisibile, cioè un segnale statistico nascosto nella scelta delle parole e riconoscibile soltanto da uno strumento che conosce il metodo usato per generarlo. La tecnologia che OpenAI ha messo a punto si chiama textGrain e nasce per rispondere agli obblighi dell’AI Act europeo. Non si tratta però di metadati né di caratteri speciali infilati tra le righe, e proprio da qui partono sia i suoi punti di forza sia i suoi limiti.
L’articolo 50, paragrafo 2, dell’AI Act chiede ai fornitori di sistemi generativi output leggibili dalle macchine e riconoscibili come artificiali, con soluzioni efficaci, interoperabili, robuste e affidabili per quanto tecnicamente possibile. Restano escluse alcune funzioni di modifica assistita che non cambiano in modo sostanziale i dati dell’utente. L’obbligo di dichiarazione per i testi di interesse pubblico può inoltre non valere quando il contenuto passa sotto controllo editoriale e qualcuno se ne assume la responsabilità. Per i sistemi immessi sul mercato prima del 2 agosto 2026 l’adeguamento deve arrivare entro il 2 dicembre 2026.
Come funziona textGrain e quanto è affidabile
Il segnale nasce durante il campionamento dei token. A ogni passo il modello calcola una distribuzione di probabilità sulle parole possibili e textGrain interviene su quella scelta in modo controllato, introducendo una dipendenza da valori pseudocasuali ottenuti con una chiave segreta. L’obiettivo è creare una correlazione riconoscibile senza allontanarsi troppo da ciò che il modello avrebbe scritto normalmente. Forzare sempre certi termini renderebbe la filigrana facile da trovare ma peggiorerebbe le risposte, mentre lasciare tutto invariato non produrrebbe alcuna traccia. Il sistema si muove quindi in una terra di mezzo, con un vero budget di casualità sacrificabile, un approccio simile a quello adottato da Anthropic per Claude.
Per la verifica servono il tokenizer giusto, i parametri dei blocchi, la regola della finestra di token e soprattutto la chiave. Non occorre invece conoscere il prompt o il modello d’origine. Il verificatore assegna un punteggio a ogni posizione, li somma e confronta il totale con una soglia legata al tasso di falsi positivi desiderato. Con un obiettivo dell’1% riconosce la filigrana in circa l’80% dei passaggi da 200 token su temi come la psicologia, e intorno al 95% salendo a 400 token. Nei testi matematici le prestazioni calano parecchio perché la libertà lessicale si riduce.
Bastano pochi ritocchi per indebolire il segnale
Il nodo più delicato riguarda l’editing. Su porzioni da 400 token in inglese la probabilità di rilevamento sul testo originale sfiora il 92%, ma sostituendo appena il 10% delle parole con sinonimi scende attorno al 66% e con il 25% crolla al 17%. Riscrittura, traduzione e parafrasi toccano esattamente le scelte lessicali su cui poggia il segnale. Allo stesso modo l’assenza della filigrana non prova che a scrivere sia stata una persona, perché il testo potrebbe essere troppo breve, tradotto, prodotto da un altro servizio o creato prima dell’attivazione del sistema.
Anche un risultato positivo dice poco. Indica solo che il passaggio conserva un segnale compatibile con un sistema OpenAI, senza misurare il contributo umano né attribuire il testo a un account, a una persona o a una conversazione. Non stabilisce nemmeno proprietà intellettuale, liceità o correttezza dei fatti, un aspetto che pesa soprattutto a scuola, nelle aziende e nell’editoria.
Per questo il rilevatore non sarà aperto a tutti. OpenAI valuterà caso per caso le richieste di ricercatori e organizzazioni con competenze specifiche, temendo che uno strumento pubblico diventi una prova disciplinare usata oltre i suoi margini statistici. Un verificatore interrogabile senza limiti, poi, permetterebbe di ritoccare il testo e ricontrollarlo più volte finché il watermark invisibile non scompare del tutto. Il caso mostra quanto sia difficile per il testo ottenere insieme le quattro proprietà chieste dall’AI Act, e la stessa OpenAI riconosce che la filigrana di textGrain non è affatto una firma indelebile.
Fonte: TecnoAndroid
