In questo articolo Indice dei contenuti 2 sezioni
Sotto pressione a Washington, TikTok deve ora rispondere a domande molto precise su un esperimento interno che, secondo i documenti emersi, avrebbe tenuto nascosta una funzione di sicurezza a milioni di utenti. A firmare la lettera indirizzata ai vertici della piattaforma sono i senatori Marsha Blackburn e Richard Blumenthal, due nomi che negli ultimi anni hanno fatto della protezione dei minori online una battaglia personale. Il tono del documento è tutto fuorché diplomatico e l’accusa è pesante: l’azienda sapeva quali rischi comportava il suo sistema di raccomandazione e ha comunque scelto di rinviare una misura pensata proprio per limitarli.
La vicenda parte dal 2021. In quel periodo TikTok annunciò una modifica al funzionamento del feed “Per te”, pensata per evitare quelli che internamente venivano chiamati “schemi ripetitivi”, cioè le cosiddette filter bubble. L’idea era semplice e sensata: un singolo video può essere innocuo, ma vederne decine dello stesso tipo uno dopo l’altro cambia completamente la faccenda. Un contenuto che isolato non fa danni, se ripetuto a raffica può diventare un problema serio, soprattutto per un adolescente.
TikTok: il gruppo di controllo che nessuno conosceva
Quello che l’azienda non disse all’epoca è che la funzione non sarebbe arrivata a tutti. Una fetta consistente di utenti, milioni di persone, venne lasciata fuori di proposito per formare un gruppo di controllo. Obiettivo: misurare l’impatto della nuova misura sull’engagement, ovvero sul tempo passato dentro l’app. In pratica un test A/B classico, applicato però a uno strumento che avrebbe dovuto proteggere le persone dai contenuti dannosi.
Tra chi finì in quel gruppo c’era anche Chase Nasca, un adolescente statunitense che si è tolto la vita poco dopo. Un documento interno di TikTok descrive con parole piuttosto chiare cosa era successo al suo account: era caduto in una filter bubble dove gli venivano raccomandati in maniera ripetuta contenuti legati a suicidio, autolesionismo e temi depressivi, in particolare nel periodo che ha preceduto la sua morte. Non è un dettaglio secondario, ed è esattamente il punto su cui i due senatori insistono.
Le domande dei senatori e la scadenza del 1 settembre
Nella lettera, Blackburn e Blumenthal chiedono a TikTok di fornire tutti i dettagli su quell’esperimento e su altri simili. C’è poi una domanda che pesa più delle altre: l’azienda ha mai deciso di non lanciare una funzione di sicurezza perché avrebbe intaccato l’engagement o i ricavi pubblicitari? La risposta, se arriverà, dovrà essere consegnata entro il 1 settembre.
“Queste ultime rivelazioni mostrano che TikTok non solo possedeva informazioni sui pericoli creati dai suoi sistemi di raccomandazione, ma ha deliberatamente negato a milioni di utenti l’accesso a un intervento di sicurezza per poterne studiare l’impatto sull’engagement”, si legge nel testo inviato ai dirigenti. E ancora: “Queste rivelazioni sono sconcertanti, ma diventano ancora più sinistre perché TikTok era stata avvertita degli effetti dei suoi algoritmi di raccomandazione sui bambini”.
Il riferimento all’avvertimento non è casuale. L’esperimento del 2021 partì poco dopo un’audizione al Congresso in cui un responsabile delle policy di TikTok si trovò davanti proprio a Blumenthal e Blackburn, che in quell’occasione chiesero all’azienda di fare di più per tutelare i minori sulla piattaforma. La sequenza temporale, insomma, è il vero nodo della contestazione.
Entrambi i legislatori sono da tempo tra i sostenitori più attivi del Kids Online Safety Act, la proposta di legge che punta a imporre obblighi più stringenti alle piattaforme social sulla protezione degli adolescenti. TikTok non ha risposto immediatamente alla richiesta di commento.
