I video disponibili nella sezione “Per Te” di Tik Tok possono essere pericolosi e spingere i giovani utenti a visualizzare contenuti dannosi per la loro salute mentale e fisica. Questo è ciò che emerge da un recente report di Amnesty International e AI Forensics. Secondo la ricerca, il sistema che raccomanda i contenuti e le pratiche spesso invasive di raccolta di dati personali sono molto rischiosi per i ragazzi (e anche per gli adulti). Essi promuovono video depressivi che ad alcuni potrebbero amplificare lo stato di salute mentale, spingendoli addirittura all’autolesionismo.
Il Feed dannoso di TikTok
Il successo delle piattaforme social ha una doppia faccia. Se da un lato propongono notizie positive e creature, c’è un lato oscuro che potrebbe attirare i più giovani. Le aziende, come appunto quella di TikTok, tendono a selezionare i video per mostrarci qualcosa di interessante. Questo però porta a diversi rischi riguardanti i contenuti sensibili.
Un tredicenne che scrolla per un po’ e ci si imbatte e si ferma per interessa provoca un effetto a catena non da lui controllabile. L’algoritmo è infatti progettato per imparare dagli utenti e può caratterizzare questo contenuto come adatto per questa fascia di età. Il ragazzo vedrà nel feed sempre più video simili, costantemente, frequentemente e inevitabilmente cominciano a suscitare qualcosa al di sopra del solito interesse.
Gli studiosi, per avvalere la tesi, hanno studiato diversi profili TikTok fingendo di avere 13 anni (età minima per l’iscrizione negli Stati Uniti). Hanno così dimostrato che dopo appena 5 ore i video riprodotti erano sulla salute mentale o comunque potenzialmente dannosi. La percentuale di frequenza e superiore di 10 volte a quello degli account che non hanno mostrato alcun interesse per tali contenuti.
I risultati mostrano come quanto le pratiche manipolatorie rappresentino un effettivo problema. Essendo poi in una fase particolare della loro crescita gli adolescenti si immedesimano nei creator, si sentono ispirati e cadono in quello che è definito come “rabbit hole”. La difficoltà non sta nell’entrarci, ma nel riuscire a scappare. Diviene un loop infinito, una vera e propria dipendenza. Tutto ciò pone parecchi dubbi sul funzionamento degli algoritmi e della selezione dei video di TikTok, contenuti che non dovrebbero vedere neanche la luce.
