In questo articolo Indice dei contenuti 2 sezioni
Il watermark di OpenAI sui testi generati dall’intelligenza artificiale mostra già un punto debole importante, perché basta modificare circa il 10% delle parole per indebolirlo in modo significativo. La tecnologia si chiama textGrain ed è destinata ad arrivare su ChatGPT e su Codex in Europa. È una soluzione sviluppata internamente dall’azienda, che ha preferito puntare su uno strumento tutto suo invece di affidarsi a sistemi esterni. Il problema è che poche modifiche al testo bastano a metterla in seria difficoltà.
Si tratta di un aspetto tutt’altro che marginale. Un sistema di filigrana digitale applicato alla scrittura ha uno scopo molto preciso, cioè permettere di riconoscere un contenuto prodotto da un modello linguistico anche quando circola lontano dalla piattaforma che l’ha generato. Se però l’impronta perde efficacia dopo qualche ritocco, la sua utilità pratica si riduce parecchio.
Cos’è textGrain e dove verrà usato
La scelta di OpenAI di sviluppare textGrain in casa racconta molto della direzione presa dall’azienda. Invece di adottare tecnologie già disponibili sul mercato, la società ha deciso di costruire un proprio meccanismo per marcare i testi prodotti dai suoi servizi. Il debutto è previsto sul mercato europeo e riguarderà due prodotti molto diversi tra loro. Da una parte c’è ChatGPT, l’assistente conversazionale usato ogni giorno da un pubblico enorme per scrivere email, riassunti, articoli e documenti di ogni tipo. Dall’altra c’è Codex, pensato invece per il lavoro sul codice e per chi programma.
L’idea di fondo è semplice da spiegare. Un’impronta invisibile all’occhio umano viene inserita nel testo generato, così da poterne poi verificare l’origine. Chi legge non nota nulla di strano, mentre uno strumento apposito dovrebbe essere in grado di rilevare la presenza della filigrana. Almeno sulla carta.
Il limite del 10% delle parole
È proprio qui che emergono le difficoltà. Secondo quanto emerso, intervenire su una quota relativamente piccola del contenuto, intorno al 10% delle parole, è sufficiente per indebolire il watermark di OpenAI. Non serve quindi riscrivere tutto da capo né stravolgere il significato del testo. Qualche sostituzione mirata, qualche sinonimo inserito al posto giusto, e il segnale nascosto diventa molto meno affidabile.
Il punto è delicato perché tocca la natura stessa di questi sistemi. Una filigrana testuale deve resistere alle modifiche più comuni, visto che quasi nessuno copia e incolla un testo generato dall’intelligenza artificiale senza ritoccarlo almeno un po’. Correggere una frase, cambiare un termine poco adatto o sistemare il tono sono operazioni normalissime anche per chi non ha alcuna intenzione di nascondere qualcosa. Se bastano interventi di questo genere per mettere in crisi textGrain, la tenuta dello strumento appare piuttosto fragile.
Questo vale ancora di più considerando il contesto in cui la tecnologia verrà introdotta. L’arrivo su ChatGPT e Codex in Europa coinvolge una platea vastissima di utenti, ed è proprio su questa scala che un sistema di riconoscimento dovrebbe dimostrare la propria solidità. La soglia individuata, pari a circa una parola su dieci, è invece abbastanza bassa da poter essere raggiunta anche con una revisione superficiale del testo.
OpenAI ha quindi scelto di affidarsi a una tecnologia proprietaria per marcare i contenuti prodotti dai suoi servizi europei, ma il watermark di textGrain si indebolisce già quando viene cambiato appena il 10% delle parole di un testo.
Fonte: TecnoAndroid
