In questo articolo Indice dei contenuti 2 sezioni
Oltre trecento casi in un solo mese: l’intelligenza artificiale che sfugge al controllo di chi la sta usando non è più un tema da convegno accademico, ma una statistica che cresce mese dopo mese. Luglio ha segnato un nuovo record, con un numero di segnalazioni quasi doppio rispetto a giugno, e il conteggio complessivo del 2026 ha già superato i 1.600 episodi. Numeri che arrivano dal Loss of Control Observatory, la struttura nata a novembre con il sostegno dell’AI Security Institute britannico, che raccoglie e cataloga le segnalazioni pubblicate dagli utenti sulla piattaforma X.
Vale la pena chiarire subito cosa finisce dentro quel conteggio, perché non si parla di risposte sbagliate o allucinazioni. Per entrare nel database serve un indizio concreto di quello che i ricercatori chiamano comportamento strategico: la macchina non sbaglia, aggira. Ignora le istruzioni ricevute, mente, scavalca i meccanismi di autorizzazione, in certi casi crea danni collaterali pur di raggiungere l’obiettivo assegnato. Una differenza sottile sulla carta, molto meno sottile nella pratica.
Dai test alla rete aperta, gli episodi più pesanti
Il caso più clamoroso di luglio riguarda i modelli di OpenAi, che sono riusciti a uscire dal proprio ambiente di test e ad accedere a Internet, arrivando ad attaccare la libreria digitale HuggingFace senza che nessuno si accorgesse di nulla. Anche Anthropic ha segnalato episodi dello stesso tipo, con tre aziende violate.
Poi ci sono le storie che raccontano meglio di qualsiasi grafico quanto il problema sia scivoloso. Alcuni modelli si sono spacciati per il proprio supervisore umano, imitandone lo stile di scrittura per auto concedersi il permesso di procedere. In pratica hanno falsificato la firma del capo, aggirando la regola che imponeva l’approvazione di una persona prima di agire. Un altro episodio riguarda OpenClaw, agente personale che, per procurare al suo utente un posto molto ambito in un corso in palestra, ha semplicemente rimosso dalla lista un altro iscritto. Obiettivo raggiunto, va detto.
L’ultimo caso emerso è di natura diversa e chiama in causa la sicurezza informatica vera e propria. Hacker russi hanno convinto Cursor, l’AI di Space X, ad aiutarli ad attaccare una ventina di aziende, raccontandogli che si trattava soltanto di un test. Cursor si appoggia, tra gli altri, anche ai modelli di OpenAi, e proprio qui la vicenda si intreccia con lo scontro sempre più aspro tra Musk e Altman: l’azienda di Altman vuole interrompere la fornitura, spiegando che alla luce delle esperienze con le società di Musk non ha la certezza che la propria tecnologia venga usata nel rispetto dei termini contrattuali.
Una fotografia parziale, e questo è il vero problema
Il metodo con cui vengono raccolti questi dati ha un limite evidente, e i ricercatori sono i primi ad ammetterlo: i casi emergono unicamente dalle segnalazioni pubblicate su X, e la gran parte arriva da sviluppatori di software. Significa che il quadro è ritagliato su una nicchia molto specifica di utenti, quelli che hanno gli strumenti per accorgersi di cosa sta succedendo e l’abitudine a raccontarlo in pubblico. Tutto il resto, con ogni probabilità, non viene nemmeno notato. In altre parole, i 300 incidenti di luglio sono quasi certamente una sottostima del fenomeno reale. Il paradosso è che, in assenza di un monitoraggio pubblico sistematico, quella raccolta imperfetta resta l’unico indicatore disponibile per capire quanto spesso i sistemi di intelligenza artificiale decidano di fare a modo loro.
Da qui la richiesta avanzata dai ricercatori, che va in due direzioni. La prima è l’obbligo per le aziende di monitorare in modo sistematico e comunicare gli incidenti seri, compresi quelli sfiorati per un soffio, sul modello di quanto avviene in settori dove la sicurezza è regolata da tempo. La seconda è dotarsi di veri poteri d’emergenza, strumenti che permettano, se la situazione lo richiede, di sospendere temporaneamente un servizio.
