In questo articolo Indice dei contenuti 3 sezioni
ChatGPT si prepara a nascondere una marca invisibile nei testi che genera per gli utenti europei. OpenAI ha scelto di seguire la strada già intrapresa da Anthropic, i cui modelli di intelligenza artificiale lanciati nell’Unione Europea dallo scorso 2 agosto inseriscono un segnale impercettibile in tutto ciò che producono. Anche i modelli più datati di Anthropic stanno adottando gradualmente la stessa tecnologia di riconoscimento. Per entrambi i laboratori statunitensi la ragione è identica, cioè adeguarsi alla normativa europea sulla trasparenza che riguarda i contenuti creati con strumenti di IA.
Proprio come accade con la soluzione di Anthropic, anche il sistema messo a punto da OpenAI non punta su una filigrana visibile. Il meccanismo è più sottile e ha un nome preciso, textGrain. A una prima lettura nei testi non compare nulla di strano e non vengono aggiunti nemmeno caratteri nascosti o spazi invisibili.
Come funziona textGrain e dove arriverà
Il trucco sta nella scelta delle parole. Il modello seleziona i termini da inserire nella risposta seguendo un criterio statistico e in questo modo lascia dietro di sé uno schema che si può riconoscere in un secondo momento. Una sorta di impronta digitale che non altera il senso del testo ma che uno strumento adatto è in grado di individuare.
Almeno all’inizio la tecnologia non sarà distribuita in tutto il mondo. OpenAI ha confermato che per ora userà textGrain soltanto nell’Unione Europea, come banco di prova in condizioni reali. Non è escluso che col tempo la misura venga estesa anche alle altre aree in cui i suoi modelli sono disponibili. C’è però un dettaglio interessante. Attraverso l’API di OpenAI qualsiasi cliente potrà attivare volontariamente questa impronta statistica su alcuni modelli, a prescindere dal Paese in cui si trova.
Un sistema con limiti dichiarati
La stessa OpenAI, nel post pubblicato sul proprio blog, ammette che la sua marcatura statistica non è infallibile. Un buon strumento di rilevamento dovrebbe riuscire a scovare lo schema lasciato dal modello, ma l’impronta tende a sbiadire quando una persona interviene sul testo. Basta sostituire qualche parola con un sinonimo oppure rimaneggiare la struttura di alcune frasi. I numeri forniti dall’azienda sono piuttosto chiari. Se in un testo di 400 token si cambia il 10% delle parole con dei sinonimi, la percentuale di rilevamento scende dal 92% al 66%. Quando le parole sostituite arrivano al 25%, l’efficacia crolla al 17%.
Anche la lunghezza conta parecchio. Nei testi brevi lo schema statistico è molto difficile da cogliere e quindi, sia in questo caso sia in quello dei contenuti rimaneggiati, un testo scritto da un modello di IA potrebbe essere scambiato per opera umana. Esiste poi il problema opposto, quello dei falsi positivi. Gli strumenti di rilevamento potrebbero attribuire un’impronta statistica a un testo che in realtà nessuna intelligenza artificiale ha mai toccato.
Durante i test condotti da OpenAI, fissando un tasso obiettivo di falsi positivi pari all’1%, il sistema ha riconosciuto correttamente l’80% dei testi da 200 token. Con testi da 400 token la quota di risposte esatte è salita fino al 95%. Sono limiti di cui bisogna tenere conto quando si cerca di stabilire se un contenuto sia stato prodotto o meno da un modello di intelligenza artificiale.
Cosa non può dire la rilevazione
Anche quando l’analisi va a buon fine, uno strumento di rilevamento non è in grado di quantificare quanta parte del testo provenga dal modello e quanta sia invece frutto del lavoro intellettuale umano. Non permette nemmeno di risalire all’utente, al prompt usato per generare il contenuto, all’account o alle conversazioni avute in precedenza con il chatbot. Al momento OpenAI firma immagini e audio elaborati dai suoi modelli con gli standard C2PA e con le filigrane SynthID. Sul fronte dei testi, invece, appare evidente che textGrain da solo non è sufficiente.
Fonte: TecnoAndroid
