Un errore nei sistemi di sicurezza di Discord ha causato la sospensione ingiustificata di migliaia di account, in alcuni casi da mesi. Il team di supporto della piattaforma lo ha spiegato con un lungo intervento su X, ammettendo che qualcosa nel meccanismo di moderazione automatica non aveva funzionato come previsto. Nel solo fine settimana appena trascorso il problema aveva colpito circa 200 account, ma guardando indietro il conteggio si allarga parecchio. Si parla infatti di circa 8.200 utenti coinvolti dal maggio 2026.
Il punto curioso, e anche un po’ assurdo, riguarda cosa mandava in tilt il sistema. A creare guai erano le immagini con una struttura a griglia quadrata. Roba del tutto innocua, insomma. Un foglio di calcolo, una scacchiera, perfino il menu dell’inventario di Minecraft potevano bastare per far scattare l’allarme sbagliato. Il bug interpretava queste immagini come materiale pedopornografico, con la conseguenza che account del tutto puliti finivano sospesi senza alcuna reale ragione.
Come funziona la moderazione automatica e dove ha sbagliato
Per capire cosa è andato storto bisogna guardare al modo in cui la piattaforma controlla i contenuti. Discord si affida a strumenti di moderazione basati sull’intelligenza artificiale, che confrontano il materiale già noto come dannoso con quello che gli utenti caricano ogni giorno. Non è un sistema perfetto e la stessa azienda lo sa bene. I falsi positivi capitano, per questo di norma un account segnalato passa sotto gli occhi di una persona in carne e ossa del team Trust & Safety prima che venga presa qualsiasi decisione.
Il comportamento previsto, hanno spiegato dal supporto, era mettere in pausa temporaneamente i caricamenti durante la revisione. Niente ban, solo uno stop momentaneo. Qui però è entrato in scena l’errore. Il bug trasformava quella pausa in un vero e proprio blocco dell’account. E come se non bastasse, quando lo staff controllava e dava il via libera, lo stesso problema impediva la rimozione automatica della sospensione. Così il ban restava lì, immobile, senza che l’utente ci potesse fare granché.
Le scuse e la promessa di nuove protezioni
Nel messaggio pubblicato, il team ha riconosciuto senza troppi giri di parole quanto la situazione fosse imbarazzante. Un problema del genere rimasto attivo per circa due mesi non è certo un dettaglio da poco. “Sappiamo che non è una spiegazione soddisfacente se si trattava del tuo account, e avremmo dovuto accorgercene prima”, si legge tra i post. Il gruppo ha aggiunto di essere al lavoro su protezioni più solide, così che una cosa simile non possa più accadere in modo silenzioso.
L’obiettivo dichiarato è più ampio e riguarda l’affidabilità complessiva dei sistemi di sicurezza. L’azienda vuole assicurarsi che questi strumenti non finiscano per penalizzare persone che non hanno fatto assolutamente nulla di sbagliato. Sul fronte pratico, tutti gli account che erano stati sospesi come falsi positivi dovrebbero ora essere stati ripristinati.
