Il monitoraggio dei dipendenti in casa Meta si è fermato di colpo, e la ragione è tutt’altro che banale. Un problema di sicurezza ha reso visibili informazioni sensibili a buona parte dell’azienda, e davanti a questo scivolone il colosso di Menlo Park ha scelto di mettere in pausa un programma interno che già da mesi faceva discutere. La storia tocca un nervo scoperto, quello che mette in tensione lo sviluppo dell’intelligenza artificiale, la privacy di chi lavora e la tenuta dei dati aziendali.
Il progetto si chiamava Model Capability Initiative, sigla MCI, ed era partito negli Stati Uniti con un obiettivo preciso. Raccogliere dati reali su come i dipendenti usano il computer, così da rendere più capaci i modelli AI sviluppati internamente. Solo che proprio quei dati, quelli pensati per affinare le macchine, sarebbero finiti esposti a causa di controlli di accesso troppo deboli.
Come funzionava davvero il sistema
Il software registrava parecchio. Movimenti del mouse, clic, quello che veniva digitato sulla tastiera e perfino i contenuti che comparivano sullo schermo. L’idea dichiarata era nobile sulla carta, fornire materiale utile ad addestrare sistemi AI in grado di capire e imitare meglio il modo in cui le persone usano i software. Sulla pratica, però, la faccenda ha preso una piega diversa.
Fin dal debutto, ad aprile, il programma di monitoraggio aveva incontrato un muro. Oltre 1.500 dipendenti avevano firmato una petizione per contestarlo, giudicandolo troppo invadente. E a peggiorare gli animi c’era un dettaglio non da poco, all’inizio non esisteva alcun modo per tirarsene fuori. Niente opt out, nessuna scappatoia.
Le cose sono precipitate quando un avviso interno ha messo nero su bianco una verità scomoda. I dati raccolti erano diventati accessibili a un numero di persone ben più alto del previsto. Dentro quel mucchio di informazioni c’erano conversazioni private, valutazioni professionali, trascrizioni e altro materiale considerato delicato. Alcune ricostruzioni parlano di decine di migliaia di tabelle coinvolte. Meta sostiene di non avere prove che qualcuno abbia consultato o usato male quei dati, ma l’episodio è stato classificato internamente come un evento di sicurezza serio. Tanto da bloccare tutto sul nascere.
Cosa dice Meta e perché conta
Un portavoce dell’azienda ha confermato la sospensione, spiegando che il sistema era stato pensato con misure specifiche a tutela della privacy. Allo stesso tempo, la società ha ammesso che serve capire bene cosa sia successo prima di pensare a una ripartenza. L’indagine interna, per ora, è ancora aperta.
Per Meta è l’ennesimo grattacapo in un momento già caldo. L’azienda guidata da Mark Zuckerberg sta spingendo forte sull’intelligenza artificiale, in una corsa che si fa ogni mese più aggressiva. E questo caso mette in luce una difficoltà che molte big tech conoscono bene. Alimentare i modelli AI richiede enormi quantità di dati reali, materiale prezioso per far crescere le capacità dei sistemi. Solo che dietro questa fame di informazioni si nascondono domande sempre più pesanti su consenso, gestione e protezione di ciò che viene raccolto.
Chi aveva criticato il progetto fin dal primo giorno adesso si sente confermato. Il leak dimostra, secondo loro, esattamente quello che temevano. Affidare a un sistema di sorveglianza continua la raccolta di dati così minuziosi può trasformarsi in fretta in un pericolo, tanto per chi lavora quanto per l’azienda stessa.