In questo articolo Indice dei contenuti 2 sezioni
Capita sempre più spesso che l’etichetta AI di Instagram finisca sotto foto che con l’intelligenza artificiale generativa non hanno nulla in comune, come uno scatto fatto con iPhone e ritoccato in due secondi dall’app Foto. Nelle ultime settimane le segnalazioni si sono moltiplicate e il quadro che ne emerge è piuttosto imbarazzante per Meta: mentre immagini autentiche vengono bollate come artificiali, contenuti creati davvero da un modello generativo scivolano nel feed senza il minimo avvertimento.
Il risultato è un cortocircuito. Un sistema nato per aiutare a distinguere il vero dal sintetico sta ottenendo l’effetto contrario, e cioè togliere credibilità all’unico strumento che dovrebbe garantire quella distinzione. Chi pubblica si ritrova a giustificarsi, chi guarda non sa più cosa credere.
Rimozione dello sfondo e macchioline: basta poco per far scattare l’etichetta
Molti dei casi raccolti riguardano operazioni banali, quelle che chiunque fa da anni senza pensarci. La rimozione dello sfondo di Canva, per esempio: un utente ha raccontato che l’etichetta compariva ogni singola volta che usava quella funzione. Un altro ha visto la propria immagine marchiata come contenuto artificiale dopo aver cancellato una piccola macchia, nient’altro.
Canva ha riconosciuto il problema, spiegando che alcuni dei suoi strumenti assistivi venivano classificati come generativi, e ha detto di aver sistemato le cose. Solo che diversi utenti continuano a segnalare la stessa situazione anche dopo la correzione annunciata.
Vale la pena fare una distinzione tecnica, senza complicarla troppo. La rimozione dello sfondo si appoggia al machine learning, vero, ma è la stessa AI assistiva che Photoshop usa da più di dieci anni per selezionare i contorni di un oggetto. Non ha niente a che vedere con i modelli testo-immagine, quelli che partono da una riga scritta e tirano fuori un’immagine dal nulla. Le etichette, in teoria, dovrebbero segnalare esattamente questi ultimi.
Foto scattate con iPhone marchiate, contenuti Gemini invisibili
Poi ci sono episodi ancora più difficili da spiegare. Una foto scattata con iPhone e modificata soltanto con l’app Foto nativa è stata taggata come contenuto AI. Il marchio di cosmetici About Face, fondato dalla cantante Halsey, si è visto etichettare le proprie immagini, e il social manager del brand ha messo le cose in chiaro: “questa foto è stata scattata con il mio iPhone e poi leggermente modificata da me nell’app Foto. Il nostro brand usa artisti e persone reali per creare tutto ciò che vedete”.
Il rovescio della medaglia è ancora più interessante. Alcune prove sul campo hanno mostrato che immagini interamente prodotte con Google Gemini, quindi con watermark invisibile SynthID e metadati C2PA che ne certificano nero su bianco l’origine artificiale, sono state pubblicate senza che Instagram le segnalasse in alcun modo. Nessuna etichetta, nessun avviso.
L’unico segnale capace di far scattare il meccanismo in maniera affidabile è quello generato dai sistemi AI di Meta stessa. Tutto il resto passa: foto ritoccate con Photoshop AI, con Adobe Firefly, con Gemini oppure con le funzioni Apple Intelligence di iOS. E passano anche caricandole da un account appena creato, una dopo l’altra in rapida successione, cioè nelle condizioni in cui un filtro anti manipolazione dovrebbe essere più sospettoso.
Meta, per il momento, non ha risposto alle richieste di chiarimento su quali segnali il suo sistema vada effettivamente a cercare e su come funzioni il processo di riconoscimento. Nessuna spiegazione su come vengano interpretati i metadati, nessun dettaglio sul perché uno standard aperto come C2PA sembri non avere alcun peso nel meccanismo di etichettatura.
Nel frattempo l’etichetta continua a comparire dove non serve e a mancare dove servirebbe, con fotografi, piccoli brand e utenti comuni costretti a spiegare pubblicamente che le loro immagini sono reali.
