In questo articolo Indice dei contenuti 1 sezione
È una scena che sembra uscita da una serie distopica, e invece è successa davvero: un ragazzo di 17 anni, Taki Allen, è finito a terra con un fucile puntato contro per colpa… di un pacchetto di patatine. Siamo a Baltimora, in una normale giornata di scuola, e un’intelligenza artificiale incaricata di sorvegliare l’edificio ha deciso che quel sacchetto luccicante era un’arma da fuoco. Da lì, il resto è stato automatico: allarme, sirene, agenti SWAT che piombano nel cortile. Tutto per uno snack dopo l’allenamento.
Quando l’AI sbaglia: un pacchetto di snack scambiato per pistola a Baltimora
Una volta chiarito che la minaccia non esisteva, Taki è stato rilasciato — senza accuse, certo, ma con un trauma che difficilmente si cancella. Ha raccontato di aver paura perfino a mangiare o bere a scuola, e chi può biasimarlo? La scuola ha promesso supporto psicologico, ma lui dice di non aver ancora ricevuto né aiuto né scuse. E come dargli torto: non è solo la paura, è la consapevolezza che tutto questo è successo perché un algoritmo ha “visto” un’arma dove c’erano solo patatine.
Il fornitore del sistema, Omnilert, ha dichiarato che in realtà “il sistema ha funzionato come doveva”: l’intelligenza artificiale ha segnalato una possibile minaccia, lasciando agli esseri umani il compito di verificare. Ma se “funzionare correttamente” significa mettere un ragazzo a terra con le manette per un errore di riconoscimento, forse c’è qualcosa che non torna. È facile dire che si tratta di falsi positivi inevitabili, ma dietro quelle due parole ci sono persone vere, con emozioni vere.
La domanda, alla fine, è piuttosto amara: vale davvero la pena affidare la sicurezza — e la paura — delle persone a un sistema che non distingue un’arma da una merendina? Forse il punto non è perfezionare l’intelligenza artificiale, ma chiedersi perché abbiamo bisogno di metterla a guardia delle scuole. È come curare la febbre rompendo il termometro: funziona solo in apparenza. E mentre discutiamo di algoritmi, telecamere e “sicurezza predittiva”, resta la sensazione inquietante che, in questa storia, l’unico ad aver reagito con vera lucidità sia stato proprio un ragazzo spaventato con un sacchetto di patatine in mano.
