La moderazione dei contenuti con l’intelligenza artificiale sta per cambiare faccia sulle piattaforme di Meta. Il colosso dei social network ha infatti annunciato che nei prossimi anni verranno implementati sistemi di IA decisamente più avanzati all’interno delle sue app, con un obiettivo chiaro: individuare e rimuovere con maggiore precisione le violazioni più gravi, dalle truffe online ai contenuti illegali. Parliamo di una trasformazione radicale nell’approccio alla gestione di ciò che circola su Facebook e Instagram, e le conseguenze promettono di essere enormi sia per gli utenti sia per chi oggi lavora nella moderazione.
Il punto centrale è semplice: grazie a questi nuovi sistemi, chi usa le piattaforme di Meta dovrebbe imbattersi molto meno in contenuti pericolosi o inadeguati. Una promessa ambiziosa, certo, ma che poggia su investimenti concreti in tecnologia e su un ripensamento profondo del ruolo degli esseri umani all’interno della catena di moderazione.
Meno moderatori umani, più assistenti virtuali
La notizia che fa più rumore riguarda proprio il fattore umano. L’attuale numero di collaboratori dedicati alla moderazione subirà una drastica riduzione, e a sentire il peso di questa svolta saranno migliaia di persone che oggi hanno il compito di esaminare i contenuti segnalati dall’intelligenza artificiale di Meta e dalle segnalazioni degli utenti.
Un esempio concreto di questa nuova direzione è Meta AI, l’assistente virtuale già integrato in Facebook e Instagram. Questo strumento è in grado di rispondere in pochi secondi alle richieste degli utenti, tagliando drasticamente i tempi di attesa rispetto alle tradizionali ricerche nei centri assistenza. Il nuovo assistente di supporto è stato pensato per aiutare a risolvere i problemi più comuni legati al proprio account: dalle impostazioni delle notifiche alle nuove funzionalità, passando per la segnalazione di truffe, account falsi o contenuti problematici. Meta AI permette anche di ottenere dettagli sul motivo per cui un contenuto è stato rimosso, gestire le impostazioni sulla privacy e reimpostare la password.
Il nuovo ruolo degli esseri umani nella moderazione
Attenzione però, perché Meta non sta dicendo che gli esseri umani spariranno del tutto dal processo. Anzi, il loro ruolo cambierà in modo significativo. I moderatori umani si troveranno a intervenire nelle cosiddette “decisioni critiche”, come la valutazione dei ricorsi contro la disattivazione degli account o la scelta se effettuare una segnalazione alle forze dell’ordine. Inoltre, forniranno supporto nella formazione dei sistemi e in altre attività strategiche.
Meta ci tiene a sottolineare che il team di sviluppatori sta testando in modo rigoroso ciascuno di questi sistemi di intelligenza artificiale, integrando misure di sicurezza e valutandone le prestazioni per proteggerli da eventuali pregiudizi. L’obiettivo dichiarato è garantire coerenza e accuratezza nelle decisioni automatizzate. Nei prossimi mesi sono attesi ulteriori dettagli su tempistiche e modalità di implementazione.