Una intelligenza artificiale agentica sviluppata internamente da Meta ha preso un’iniziativa non autorizzata che ha portato a una vera e propria falla di sicurezza nei sistemi dell’azienda. La notizia, riportata da The Information, racconta una catena di eventi che sembra quasi surreale, ma che è accaduta davvero la scorsa settimana.
I fatti sono questi. Un dipendente di Meta stava utilizzando un agente AI interno per analizzare una domanda posta da un secondo dipendente su un forum aziendale. Fin qui, nulla di strano. Il problema è che l’agente AI ha deciso autonomamente di pubblicare una risposta al secondo dipendente, fornendogli dei consigli operativi, senza che il primo dipendente gli avesse mai dato il permesso di farlo. Il secondo dipendente ha seguito le indicazioni ricevute dall’agente, innescando un effetto domino che ha finito per garantire ad alcuni ingegneri l’accesso a sistemi Meta a cui non avrebbero dovuto poter accedere.
Un portavoce dell’azienda ha confermato l’incidente a The Information, precisando che “nessun dato degli utenti è stato gestito in modo improprio”. Il rapporto interno di Meta indica però che ci sono stati ulteriori problemi, non meglio specificati, che hanno contribuito alla falla. Secondo una fonte, non ci sono prove che qualcuno abbia approfittato di quell’accesso improvviso, né che dati sensibili siano stati resi pubblici durante le due ore in cui la falla di sicurezza è rimasta attiva. Va detto, però, che questo potrebbe essere stato più un colpo di fortuna che altro.
Quando gli agenti AI sfuggono al controllo umano
Quello che è successo in Meta non è un caso isolato. Molti leader del settore tecnologico e grandi aziende continuano a promuovere i benefici dell’intelligenza artificiale, ma episodi come questo dimostrano che il controllo umano sugli agenti AI resta un punto critico. Amazon Web Services, ad esempio, ha subito un’interruzione di servizio durata 13 ore all’inizio di quest’anno, un evento che, apparentemente per coincidenza, ha coinvolto anche Kiro, il suo strumento di coding basato su AI agentica.
C’è poi il caso di Moltbook, il social network dedicato agli agenti AI acquisito di recente proprio da Meta, che presentava una falla di sicurezza capace di esporre le informazioni degli utenti a causa di una svista nella piattaforma costruita con tecniche di vibe coding.