L’anno scorso, Instagram ha introdotto un filtro dei commentiche utilizza l’apprendimento automatico per individuare parole e frasi offensive. Oggi ha annunciato che utilizzerà l’intelligenza artificiale per “rilevare in modo proattivo il bullismo” prima di inviare il contenuto ai moderatori umani per la revisione.
La nuova funzionalità verrà distribuita agli utenti nelle prossime settimane, in tempo per il mese di ottobre per la prevenzione del bullismo nazionale negli Stati Uniti e poco prima della settimana anti-bullismo nel Regno Unito. La stessa tecnologia viene aggiunta anche ai video live per filtrare i commenti.
Questo è il primo annuncio del nuovo capo di Instagram, Adam Mosseri, che ha preso la poltrona dopo la partenza frettolosa dei co-fondatori Kevin Systrom e Mike Krieger il mese scorso. La divisione è stata segnalata a causa delle tensioni latenti tra la coppia e la casa madre di Facebook, che si è spesso intromessa nelle politiche di Instagram.
“Facebook ha bisogno di mantenere Instagram positivo, e AI potrebbe essere in grado di aiutare“, le parole di Adam Mosseri.
Il nuovo capo vuole ispirare fiducia
Con la fiducia del pubblico in Facebook che continua a calare, Instagram rimane il punto luminoso nella linea di prodotti dell’azienda. È popolare, redditizio e deve ancora essere contaminato dagli scandali che hanno minato Facebook. In questo contesto, utilizzare l’intelligenza artificiale per aiutare a eliminare i contenuti offensivi e mantenere un buon ambiente su Instagram è estremamente importante.
L’intelligenza artificiale è dispensiosa da implementare su vasta scala, e ha ancora problemi a gestire il contesto e le sfumature umane. Ecco perché è bene che questi nuovi filtri per il bullismo inviino anche contenuti a moderatori umani per eseguire il controllo finale.
Insieme ai nuovi filtri, Instagram sta anche lanciando un “effetto gentilezza”, che suona come un modo per diffondere un messaggio positivo come stratagemma per aumentare la fiducia degli utenti. Mentre si utilizza la fotocamera posteriore, gli effetti riempiono lo schermo con una sovrapposizione di “commenti gentili in molte lingue”. Se si passa invece alla fotocamera frontale, verranno mostrati cuori e un educato incoraggiamento per “taggare un amico che vuoi supportare.”