Quante IA generative (Intelligenze artificiali) sono state sviluppate nell’ultimo periodo? Molte. Ad esempio, ultimamente hanno creato dei tool per scoprire se un’IA è stata generata da un’altra IA. Ma si è anche scoperto che le intelligenze artificiali non sono infallibili, soprattutto se si parla della creazione di testi.
È accaduto da poco un fatto alquanto strano riguardante il documento più importante degli Stati Uniti d’America, la Costituzione, che GPTZero ha identificato come scritto quasi certamente da un’IA generativa. Beh, alquanto strano se consideriamo che la tecnologia di certo non era ai livelli odierni nel 1776. Nei quadri, i padri fondatori non sono di certo ritratti con gli smartphone alla mano o al polso un Apple Watch.
Perché l’IA ha emesso questo responso
Per comprendere le ragioni di questo “risultato” bisogna comprendere il funzionamento dei Large Language Model utilizzati da queste IA Generative, addestrati sulla base di enormi bibliografie per aderire a determinate lingue. A questo punto entrano poi in gioco i parametri che utilizzano tali tool per identificare le IA: i “perplexity” e i “burstiness”.
La prima è il parametro della perplessità. Questa si basa su quanto sia probabile che un testo venga scritto da un’IA, in base a dei training set conosciuti dallo strumento identificatore. Questo significa che una frase di uso comune potrebbe essere altamente prevedibile ed essere facilmente scritta da un’IA.
Il secondo parametro, significa “raffica” ed entra in gioco per valutare la ridondanza di quanto scritto. L’essere umano, per sua natura, ha uno stile di scrittura più dinamico e variegato rispetto un’IA, mostrando meno ripetizioni rispetto a quello generato da una macchina. Tuttavia, anche noi possiamo essere “macchinari”, soprattutto quando utilizziamo un linguaggio tecnico.
La conclusione? L’insieme di questi fattori rendono gli strumenti di identificazione più avanzati attualmente non ancora molto affidabili. Questi tendono spesso a generare falsi positivi su documenti non generati artificialmente, come nel caso della Costituzione Americana. Inoltre le intelligenze artificiali generative possono dare “risposte” fasulle, come nel caso di ChatGPT che però pare sti26a cercando di rimediare.
Insomma, almeno per ora, vi consigliamo di non affidarvi alle intelligenze artificiali soprattutto per generare testi: potreste scrivere un mare di cose inesatte.
