In questo articolo Indice dei contenuti 2 sezioni
Negli Stati Uniti le IA sono entrate nelle scuole con una promessa precisa, quella di individuare un’arma o una rissa prima che degeneri, e proprio su questo terreno stanno mostrando tutti i loro limiti. Gli istituti hanno cominciato ad adottarle dopo anni segnati da episodi di violenza rimasti impressi nella memoria collettiva, dalla strage alla Columbine High School in Colorado nel 1999, costata la vita a 13 persone, fino a quella del 2012 alla scuola Sandy Hook di Newtown, in Connecticut, e alla più recente sparatoria alla Florida State University dell’aprile 2025. Il punto è che le telecamere ci sono già da tempo, visto che ne è dotato il 93% dei plessi scolastici americani, eppure osservare non basta.
Da qui nasce la corsa a strumenti capaci di fare qualcosa in più rispetto alla semplice registrazione. Un numero crescente di distretti scolastici ha scelto software di rilevamento automatico pensati per riconoscere armi o alterchi fisici mentre la scena si sviluppa, cercando di colmare il divario tra l’uso forense delle immagini, buono per ricostruire i fatti dopo, e la prevenzione vera. L’automazione garantisce velocità, questo è indubbio, ma porta con sé complicazioni nuove. E vale ovunque, non soltanto nelle aule americane.
Tra armi individuate e sacchetti di patatine scambiati per pistole
I risultati sul campo raccontano due storie opposte. Nel distretto di Nashville, in Tennessee, una tecnologia di rilevamento ha permesso di identificare sei armi da fuoco, un dato che parla da solo. Poi però c’è il rovescio della medaglia, e a fine 2025 nella contea di Baltimore il software ha scambiato un sacchetto di patatine per una pistola, con la polizia arrivata sul posto ad armi spianate. Un’indagine dell’ispettore generale locale ha raccomandato più formazione per il personale, sottolineando come indirizzare gli allarmi verso dipendenti esperti, invece che ai soli presidi, riduca in modo netto i falsi positivi. Tradotto, il buon funzionamento dipende tanto dalla qualità dell’algoritmo quanto dal posizionamento delle telecamere e dalla verifica fatta da una persona in carne e ossa.
C’è anche un problema di regole, perché la velocità degli acquisti sta superando quella con cui le istituzioni riescono a fissare standard condivisi. ASIS International, l’associazione internazionale dei professionisti della gestione della sicurezza, sta lavorando su linee guida comuni e nel luglio 2024 ha pubblicato uno standard per la sicurezza scolastica che resta un cantiere aperto, in revisione continua per stare al passo con l’innovazione. Ron Self, direttore delle iniziative strategiche presso Centegix, azienda che sviluppa piattaforme di allerta rapida per le emergenze, ricorda che ogni scuola è un ecosistema a sé e che non esiste una soluzione buona per tutti.
Vedere non significa capire, e capire non significa decidere bene
Il nodo, a ben guardare, esce dai confini scolastici e pure da quelli statunitensi, perché si ripresenta identico ogni volta che un sistema di intelligenza artificiale viene chiamato a riconoscere un pericolo e a suggerire una reazione. Un algoritmo segnala una pistola, un comportamento anomalo, un veicolo parcheggiato dove non dovrebbe, una persona che entra in un’area vietata. Quello che gli sfugge è il contesto, sono le intenzioni, è la dimensione etica della valutazione. E poi c’è la questione più spinosa di tutte, cioè stabilire chi risponde quando la macchina sbaglia.
In situazioni del genere il controllo umano smette di essere un dettaglio e diventa parte del sistema. Qualcuno deve verificare l’allarme, capire se la minaccia è reale, scegliere la procedura da attivare, valutare se la risposta automatica rischia di causare un danno superiore a quello che vorrebbe evitare. Senza questi passaggi l’IA resta monca. Più rapida dell’uomo nel riconoscere schemi, certo, ma priva di quella sensibilità che distingue un indizio da una prova, un’anomalia da un’eccezione, una probabilità da una certezza.
Discorso che riguarda gli ospedali, i trasporti, le fabbriche, la cybersecurity e ogni settore in cui una macchina può accorciare i tempi di individuazione di un problema. L’IA vede prima, correla più dati, avverte più in fretta. Quando però da un allarme dipendono libertà, sicurezza o l’incolumità delle persone, l’ultima parola non può ridursi a una soglia statistica.
