Un ragazzo di sedici anni, Chase Nasca, si è tolto la vita gettandosi sotto un treno dopo essere stato sommerso di video su suicidio, autolesionismo e solitudine. Il punto che rende questa storia ancora più inquietante riguarda TikTok e il modo in cui il social avrebbe gestito i propri sistemi di protezione. Perché quel ragazzo faceva parte, a sua insaputa, di un gruppo di circa 15 milioni di utenti a cui era stata servita una versione dell’app priva delle protezioni contro i contenuti violenti.
Non un errore tecnico, non una svista. Una scelta progettuale, come è stata definita. L’obiettivo dichiarato era misurare quanto i filtri di sicurezza presenti nella nuova release incidessero sulla capacità dell’app di trattenere le persone davanti allo schermo. In pratica, un test. Da una parte gli utenti protetti, dall’altra un gruppo di controllo lasciato senza barriere per capire quale delle due configurazioni riuscisse a tenere le persone incollate più a lungo.
Sicurezza contro metriche, la questione dei DAU
Il nodo è tutto qui. I social vengono spesso accusati di nascere già pericolosi di per sé, un’accusa che TikTok ha sempre respinto. Questo episodio però riporta la discussione al centro della scena, e lo fa con un elemento che pesa più di ogni dichiarazione: la piattaforma si sarebbe comportata in questo modo in maniera consapevole e voluta, cercando un equilibrio tra la sicurezza degli utenti e la possibilità di valutare l’impatto sui numeri che contano davvero.
E i numeri che contano davvero, nel linguaggio interno di queste aziende, sono i DAU, ovvero gli utenti attivi giornalieri. Il messaggio che emerge è tanto semplice quanto brutale. La sicurezza conta, certo. Ma il numero di persone che aprono l’app ogni giorno conta di più.
Subito dopo la morte di Chase Nasca, il team che si occupa di sicurezza e algoritmi ha analizzato nel dettaglio il suo account, ricostruendo cosa avesse visto nelle settimane precedenti. Una cronologia fatta di contenuti ripetitivi, sempre sugli stessi temi cupi, uno dopo l’altro.
L’audizione al Congresso e la parola trasparenza
La vicenda è finita anche davanti al Congresso americano. Durante l’audizione, il CEO Shou Chew ha ripetuto più volte la parola trasparenza. Un termine usato quasi come un mantra, che però non ha convinto tutti. Il repubblicano Gary Palmer non ha usato giri di parole per commentare l’atteggiamento del vertice dell’azienda. Ogni volta che quella parola veniva pronunciata, ha ammesso, ciò che percepiva era invece inganno.
Resta il dato di fondo di questa storia, quello più difficile da digerire. Milioni di persone hanno utilizzato per un certo periodo una versione dell’app costruita apposta senza protezioni, senza saperlo e senza aver dato alcun consenso. Un esperimento condotto su utenti reali, tra cui adolescenti, con conseguenze che in almeno un caso si sono rivelate irreparabili. Il caso di Chase Nasca è diventato il simbolo di questa tensione mai risolta tra ciò che una piattaforma dice di voler tutelare e ciò che, invece, misura con maggiore attenzione ogni giorno.
