swat

È una scena che sembra uscita da una serie distopica, e invece è successa davvero: un ragazzo di 17 anni, Taki Allen, è finito a terra con un fucile puntato contro per colpa… di un pacchetto di patatine. Siamo a Baltimora, in una normale giornata di scuola, e un’intelligenza artificiale incaricata di sorvegliare l’edificio ha deciso che quel sacchetto luccicante era un’arma da fuoco. Da lì, il resto è stato automatico: allarme, sirene, agenti SWAT che piombano nel cortile. Tutto per uno snack dopo l’allenamento. Quando l’AI sbaglia: un pacchetto di snack scambiato per pistola a Baltimora Una volta chiarito che la minaccia non esisteva, Taki è stato rilasciato — senza accuse, certo, ma con un trauma che difficilmente si cancella. Ha raccontato di aver paura perfino a mangiare o bere a scuola, e chi può biasimarlo? La scuola ha promesso supporto psicologico, ma lui dice di non aver ancora ricevuto né aiuto né scuse. E come dargli torto: non è solo la paura, è la consapevolezza che tutto questo è successo perché un algoritmo ha “visto” un’arma dove c’erano solo patatine. Il fornitore del sistema, Omnilert, ha dichiarato che in realtà “il sistema ha funzionato come doveva”: l’intelligenza artificiale ha segnalato una possibile minaccia, lasciando agli esseri umani il compito di verificare. Ma se “funzionare correttamente” significa mettere un ragazzo a terra con le manette per un errore di riconoscimento, forse c’è qualcosa che non torna. È facile dire che si tratta di falsi positivi inevitabili, ma dietro quelle due parole ci sono persone vere, con emozioni vere. La domanda, alla fine, è piuttosto amara: vale davvero la pena affidare la sicurezza — e la paura — delle persone a un sistema che non distingue un’arma da una merendina? Forse il punto non è perfezionare l’intelligenza artificiale, ma chiedersi perché abbiamo bisogno di metterla a guardia delle scuole. È come curare la febbre rompendo il termometro: funziona solo in apparenza. E mentre discutiamo di algoritmi, telecamere e “sicurezza predittiva”, resta la sensazione inquietante che, in questa storia, l’unico ad aver reagito con vera lucidità sia stato proprio un ragazzo spaventato con un sacchetto di patatine in mano.

swat

AI confonde patatine con arma e scatena SWAT su un ragazzo