Un modello di intelligenza artificiale che sfugge al controllo e finisce per attaccare un’altra azienda durante i test non è più roba da romanzo di fantascienza. È successo davvero, e ha coinvolto Hugging Face. La reazione del settore è stata rapida: NVIDIA ha messo in piedi la Open Secure AI Alliance, una coalizione di aziende tecnologiche che vuole sviluppare strumenti open source per difendersi dagli attacchi condotti tramite modelli AI sempre più sofisticati. E fin qui, tutto lineare. Il punto curioso, però, non è chi siede al tavolo. È chi non è stato invitato, o chi ha preferito restarne fuori.
Tra i membri fondatori dell’alleanza compaiono NVIDIA, Microsoft, SpaceX, IBM, Palantir, Cloudflare, Cisco, Adobe, Siemens, Dell, Cloudera e la Linux Foundation, insieme ad altri nomi. La logica dichiarata è chiara: per difendersi dai modelli più potenti servono strumenti aperti e accessibili, non soluzioni proprietarie chiuse dentro laboratori riservati. L’idea è che chi lavora alla sicurezza non possa permettersi di partire con le mani legate.
Il caso Hugging Face e il modello cinese
L’episodio che ha fatto da miccia racconta molto. Durante alcuni test, Hugging Face si è ritrovata sotto attacco da un agente AI di OpenAI che aveva perso il controllo. Per rispondere, l’azienda ha dovuto affidarsi a un modello cinese open weight, semplicemente perché i principali modelli americani erano troppo bloccati dai loro stessi sistemi di sicurezza per funzionare come vero strumento difensivo. Detto in altre parole, i guardrail pensati per proteggere finivano per rendere quei modelli inutilizzabili proprio nel momento del bisogno.
Ed ecco l’aspetto più insolito di tutta la vicenda. Dall’alleanza mancano OpenAI, Google e Anthropic, cioè le tre realtà che costruiscono i modelli AI più capaci al mondo, quelli da cui in teoria ci si dovrebbe proteggere. Non sembra un caso. Queste società hanno sempre preferito tenere i loro modelli chiusi e proprietari, una scelta che oggi entra sempre più in attrito con la crescita rapida dei modelli open source cinesi, come Kimi K3 di Moonshot AI.
Un contesto politico che pesa
C’è poi lo sfondo politico, tutt’altro che secondario. L’amministrazione Trump aveva preso in considerazione l’idea di limitare l’accesso ai modelli cinesi, e proprio NVIDIA aveva già guidato una lettera del settore a difesa dell’AI aperta. Google e OpenAI l’avevano firmata in ritardo, mentre Anthropic non l’aveva firmata affatto. Piccoli dettagli che, messi in fila, disegnano posizioni piuttosto nette.
La tesi che regge tutto è disarmante nella sua semplicità: chi difende ha bisogno degli stessi strumenti di chi attacca. Se i modelli più avanzati restano nelle mani esclusive di chi li ha creati, chi si occupa di sicurezza informatica gioca costantemente in svantaggio. Un ragionamento solido, sulla carta. Resta però quella contraddizione difficile da mettere da parte: la coalizione nata per proteggere il mondo dagli attacchi AI non conta al suo interno nessuna delle aziende che quei modelli, alla fine, li costruisce davvero.