In questo articolo Indice dei contenuti 3 sezioni
Il nome Flock è tornato al centro delle polemiche perché l’azienda, che si è sempre presentata come una semplice fornitrice di lettori automatici di targhe, sta testando uno strumento di intelligenza artificiale capace di individuare e identificare le persone in base al modo in cui guidano. Non la targa, non il nome, non un reato già registrato. Solo abitudini di spostamento, orari, percorsi ricorrenti. Il software è stato sviluppato con il nome in codice Nightshift e oggi circola come OS Investigate.
Il funzionamento, per come è stato descritto, poggia su una rete di telecamere attive in 6.000 comunità. Il sistema registra i movimenti dei veicoli in quelle zone e li archivia. Da lì in poi il gioco si fa più delicato, perché quei dati possono essere incrociati con fascicoli di polizia, registri delle chiamate al 911 e archivi commerciali di identità. Il risultato è un profilo che comprende nome, indirizzo di casa, parenti e persino amicizie della persona intercettata dal sistema.
Flock: un motore di ricerca puntato sulle persone
L’aspetto che ha fatto alzare più di un sopracciglio riguarda la possibilità di cercare individui dentro un’area disegnata su una mappa partendo da una semplice descrizione fisica. In pratica un agente non ha bisogno di una targa, di un nome o di un crimine da cui partire. Bastano un luogo, un orario e uno schema di comportamento, poi ci pensa l’algoritmo. A completare il quadro c’è un componente chatbot, dove gli operatori inseriscono richieste in linguaggio naturale per condurre queste ricerche ad ampio raggio.
Alcuni comandi risultano già precaricati nel sistema. Uno di questi chiede letteralmente di trovare testimoni in base ai veicoli più visti in un determinato quartiere negli ultimi 14 giorni entro una certa fascia oraria. L’agente riempie i campi vuoti e invia. Da nessuna parte viene richiesto di indicare un incidente o un reato effettivo. Flock sostiene di essere in fase di test con alcuni partner delle forze dell’ordine e che le capacità attuali potrebbero non riflettere il prodotto finale. L’azienda non ha smentito nessuna delle funzioni descritte, si è limitata a precisare che si tratta di un prodotto distinto dalla tecnologia di riconoscimento targhe.
Le reazioni di chi lavora sul campo
Noel Pichardo, ex agente di polizia che ha esaminato il software e i relativi comandi, non ha usato mezzi termini, definendo il tutto qualcosa che suona completamente folle e aggiungendo di non capire come si possa ancora sostenere che Flock non tracci letteralmente le persone. Un agente in servizio, che ha preferito restare anonimo, ha ammesso che la funzione per trovare testimoni lo mette leggermente a disagio, salvo poi aggiungere che le forze dell’ordine hanno il dovere di usare ogni strumento disponibile. Il ricercatore indipendente di sicurezza Buchodi ha scelto toni più misurati, osservando che moltissime attività del tutto innocenti rischiano di finire segnalate, pur riconoscendo una possibile utilità per gli investigatori.
Chad Marlow, avvocato dell’ACLU, ha messo il dito su un punto specifico. Chiedere a un sistema se esistono schemi criminali oppure ordinargli di trovarne produce due esiti diversi. E l’assenza di limiti sui comandi permette agli agenti di guidare l’intelligenza artificiale verso il risultato desiderato.
Un rapporto già logoro con l’opinione pubblica
Il malessere attorno alle telecamere Flock non nasce oggi. Diverse segnalazioni hanno raccontato di agenti che hanno usato la tecnologia per spiare cittadini o pedinare ex partner. L’azienda ha risposto introducendo alcune protezioni, come il blocco degli utenti segnalati e l’obbligo di associare un codice fascicolo a ogni ricerca. Su quali garanzie servirebbero per il software in fase beta, invece, non si sa nulla.
Nel frattempo un agente del Massachusetts rischia il licenziamento e un procedimento penale per aver presumibilmente utilizzato in modo improprio le informazioni ricavate dalle telecamere, mentre una comunità dell’Ohio chiede di sospendere l’uso dei sistemi di sorveglianza. Diverse agenzie hanno rotto i rapporti con l’azienda e i cittadini si sono mossi per conto proprio, con telecamere vandalizzate, distrutte o rubate in varie zone del paese. In una cittadina del Minnesota tutti gli apparecchi sono spariti nel corso di una notte. La polizia locale ha deciso di non sostituirli.
