Il tentativo di Meta di riconoscere i contenuti AI resta un lavoro ancora molto indietro rispetto a quello che il settore si aspettava. L’azienda di Mark Zuckerberg ha presentato Content Seal, un sistema di watermark invisibile pensato per individuare le immagini prodotte dai suoi modelli più recenti, ma il debutto ha lasciato più di un dubbio tra chi segue da vicino queste tecnologie. La spinta era arrivata mesi fa dalla stessa Oversight Board interna, che aveva chiesto strumenti più solidi contro la diffusione di materiale ingannevole.
Content Seal è stato annunciato insieme a Muse, la nuova piattaforma di generazione di immagini e video del gruppo. Sulla carta l’idea è semplice. Un segnale invisibile viene inserito dentro le immagini generate dall’intelligenza artificiale, un marchio che dovrebbe resistere a ritagli, compressioni, ridimensionamenti e persino agli screenshot. A quel punto uno strumento apposito può verificare se il contenuto ha davvero un’origine artificiale. Un approccio, va detto, che ricorda molto quello già visto altrove.
Un sistema che arriva dopo gli altri
Ed è qui che nascono le prime perplessità. Il mercato ha già soluzioni collaudate, come SynthID di Google e lo standard Content Credentials portato avanti dalla Coalition for Content Provenance and Authenticity, la C2PA, organizzazione di cui peraltro Meta stessa fa parte. In pratica l’azienda arriva su un terreno già battuto, con una tecnologia che sulla carta assomiglia parecchio a quella dei concorrenti ma che sul piano pratico mostra diversi limiti.
Il primo riguarda la verifica. Al momento controllare un’immagine è possibile soltanto tramite uno strumento web dedicato, ancora in fase di test, e non integrato direttamente nei servizi AI di Meta. Un dettaglio non da poco, perché costringe chiunque a fare un passaggio extra invece di avere il riconoscimento automatico dentro l’ecosistema.
Cosa manca ancora a Content Seal
C’è poi la questione della copertura. Content Seal funziona solo con le immagini generate da Muse attraverso Meta AI e il sito Meta.ai. Tutto ciò che è stato creato con i modelli precedenti resta fuori. Anche il supporto ai video, per ora, non c’è, anche se Meta ha promesso che arriverà più avanti.
Il problema più grosso, però, sta fuori casa. Non è chiaro come piattaforme esterne come TikTok, LinkedIn o altri social potranno riconoscere in automatico le immagini contrassegnate con questo watermark. E se il segnale funziona solo dentro l’universo Meta, la sua utilità reale rischia di ridimensionarsi parecchio nel momento in cui un’immagine finisce altrove, come succede praticamente sempre.
In un panorama dove i contenuti generati artificialmente si moltiplicano ogni giorno, avere un sistema che riconosce solo una fetta ristretta di materiale e per giunta soltanto all’interno del proprio recinto digitale non basta a rassicurare del tutto. La tecnologia c’è, la direzione pure, ma i pezzi mancanti sono ancora troppi perché Content Seal possa dirsi una risposta davvero completa al problema del riconoscimento dei contenuti creati dall’intelligenza artificiale.