Instagram sta usando l’intelligenza artificiale per colpire gli utenti nello scrivere didascalie più belle.
Una nuova funzione avviserà la gente di descrizioni di foto o video potenzialmente offensivi, dando loro la possibilità di “mettere in pausa e riconsiderare le loro parole” prima di pubblicare.
“Come parte del nostro impegno a lungo termine per guidare la lotta contro il bullismo online, abbiamo sviluppato e testato un’intelligenza artificiale in grado di riconoscere diverse forme di bullismo su Instagram“, ha detto un post sul blog dell’azienda .
All’inizio di quest’anno, Instagram ha introdotto un identico avvertimento per i commenti.
“I risultati sono stati promettenti”, secondo il social network. “E abbiamo scoperto che questi tipi di spintoni possono incoraggiare le persone a riconsiderare le loro parole quando ne viene data la possibilità“.
Tuttavia, il sistema si basa probabilmente su un algoritmo addestrato per individuare determinate parole o frasi: “stupido”, “brutto”, “grasso”, “morto”, “odio” – correlato alle molestie online.
Una didascalia segnalata avviserà che il tuo testo è simile ad altri segnalati per bullismo. Puoi scegliere di modificare la didascalia o “condividi comunque”.
Instagram: le nuove normative porteranno nuovi cambiamenti
Per essere onesti, non sempre usare un linguaggio apparentemente opprimente è una colpa. Qualcuno potrebbe riferirsi a un titolo di un film o una ricetta che richiede ingredienti ricchi di grassi o magri.
Instagram non sta correndo rischi, però.
“Oltre a limitare la portata del bullismo, questo avvertimento aiuta a educare le persone su ciò che non consentiamo … e quando un account potrebbe essere a rischio di infrangere le nostre regole“, ha detto il blog.
La funzionalità verrà implementata per prima in alcuni paesi, con un’espansione globale prevista “nei prossimi mesi”.
A luglio, la piattaforma di condivisione di foto ha annunciato un arsenale di armi nella lotta contro il cyberbullismo, a partire dall’avvertimento basato sull’intelligenza artificiale contro commenti offensivi.
Sta anche testando un’opzione “Limita”. Questa funzione aiuta gli utenti a proteggersi da interazioni indesiderate: i commenti di Hecklers sui tuoi post sono visibili solo a quella persona ; non sapranno mai che nessun altro può vedere il loro backtalk.
