I watermark obbligatori sui contenuti generati dall’AI sembravano la soluzione più semplice per distinguere il vero dal falso, ma la realtà tecnica racconta una storia diversa. La Commissione UE ha messo sul tavolo tre studi tecnici che provano a fare ordine sull’applicazione di queste filigrane digitali e sulla capacità reale di riconoscere ciò che esce dalle macchine. Il punto di partenza sono gli obblighi più tecnici introdotti dall’AI Act, e qui le cose si complicano parecchio.
L’idea di base resta affascinante per la sua linearità: marchiare ogni immagine, ogni testo, ogni audio prodotto da un’intelligenza artificiale con un segno riconoscibile. Una specie di etichetta invisibile che permetta a chiunque, in teoria, di capire al volo cosa è autentico e cosa no. Peccato che, scavando nei dettagli tecnici, emerga un quadro molto meno rassicurante.
Perché la tecnologia da sola non risolve il problema
Gli studi pubblicati dalla Commissione UE mettono in fila una serie di limiti che riguardano sia il watermarking sia gli strumenti di rilevazione automatica. Il nodo centrale è che nessuna di queste tecnologie offre garanzie assolute. Un watermark può essere rimosso, alterato o aggirato con relativa facilità, e questo vale soprattutto per i contenuti testuali, dove imprimere un segno stabile e resistente alle modifiche è molto più difficile rispetto a un’immagine o a un file audio.
C’è poi la questione della robustezza. Una filigrana che resiste a una compressione, a un ritaglio o a una semplice rielaborazione non è scontata. Basta poco, in certi casi, per cancellare le tracce e rendere il contenuto indistinguibile da quello creato da una persona. Gli strumenti di rilevazione, dal canto loro, sbagliano: producono falsi positivi e falsi negativi, e questo margine di errore diventa un problema serio quando in gioco c’è la fiducia degli utenti o, peggio, una controversia legale.
Cosa cambia con l’AI Act e quali sono i punti aperti
L’AI Act introduce obblighi precisi sulla marcatura dei contenuti sintetici, ma gli studi tecnici fanno capire che la sola conformità normativa non basta a garantire risultati affidabili sul campo. Serve un approccio combinato, in cui la tecnologia lavori insieme ad altri strumenti, dalla trasparenza delle piattaforme fino a procedure di verifica che non si affidino a un unico metodo.
Tra i temi sollevati c’è anche quello dell’interoperabilità. Se ogni fornitore adotta un sistema di watermarking diverso, diventa complicato costruire un ecosistema in cui questi segni possano essere letti e verificati in modo uniforme. La frammentazione rischia di vanificare gran parte dello sforzo, perché un’etichetta che funziona solo all’interno di un sistema chiuso ha un valore limitato per chi sta fuori.
Gli studi insistono molto sul fatto che la rilevazione dei contenuti generati dall’AI vada intesa come un processo continuo, non come un controllo una tantum. Le tecniche di generazione evolvono in fretta, e ogni miglioramento sul fronte della creazione richiede un aggiornamento parallelo degli strumenti di riconoscimento. È una rincorsa costante, dove chi difende deve adattarsi alla stessa velocità di chi produce.