La sicurezza dell’intelligenza artificiale è diventata la nuova frontiera su cui si giocano partite importantissime, e proprio qui entra in gioco l’Open Secure AI Alliance, l’iniziativa lanciata da NVIDIA per mettere insieme i grandi nomi della tecnologia con un unico scopo, rendere l’IA più affidabile e protetta. L’idea di fondo è chiara, con l’intelligenza artificiale sempre più presente ovunque servono strumenti condivisi e aperti capaci di difenderla, e non basta più affidarsi a soluzioni chiuse difficili da controllare.
Tra i membri fondatori compaiono NVIDIA, Microsoft, Dell Technologies, Cisco, IBM, HPE, Hugging Face, Cloudflare, CrowdStrike, Red Hat, Palo Alto Networks, Palantir, Salesforce, SAP, Siemens, Snowflake e la Linux Foundation, insieme a diverse altre realtà. Il progetto poggia sul lavoro già avviato dall’iniziativa Akrites della Linux Foundation e sulla comunità OpenSSF, con l’intenzione precisa di portare i principi dell’open source dentro la sicurezza dei sistemi di intelligenza artificiale.
Perché NVIDIA punta a coinvolgere chi difende i sistemi
Il ragionamento dietro l’alleanza parte da un punto abbastanza semplice, per proteggere davvero l’IA non ci si dovrebbe affidare solo a sistemi chiusi e difficili da verificare. NVIDIA sostiene che il mondo abbia bisogno tanto di modelli proprietari quanto di modelli aperti, soprattutto quando si parla di cybersecurity. I modelli open weight offrono ai professionisti maggiore controllo, permettono di far girare l’IA sulla propria infrastruttura, adattarla e studiarla senza dipendere da un singolo fornitore.
C’è naturalmente il rovescio della medaglia. Anche i modelli aperti possono finire nelle mani sbagliate, magari per aggirare le protezioni o costruire strumenti d’attacco. Ma per NVIDIA questo non basta a giustificare la chiusura totale, visto che pure i sistemi proprietari possono essere studiati e sfruttati da chi ha cattive intenzioni. A sostegno della tesi viene ricordato l’attacco che ha colpito Hugging Face. In quel caso alcuni strumenti IA proprietari usati per l’analisi avevano bloccato le richieste perché non riuscivano a distinguere i difensori dagli aggressori. Hugging Face ha allora usato sulla propria infrastruttura il modello GLM 5.2 open weight, riuscendo ad analizzare oltre 17.000 azioni e a fermare l’intrusione.
Dagli strumenti aperti alle richieste ai governi
Un aspetto interessante è che la sicurezza qui non riguarda soltanto i pesi del modello. Un agente IA moderno è un sistema ben più complesso, fatto di modello, strumenti esterni, identità, autorizzazioni, controlli, protezioni e registri. Per questo la sicurezza va affrontata guardando l’intera architettura. NVIDIA porta in dote modelli aperti, pesi, dati e ricerche, tra cui NOOA, un framework open source disponibile su GitHub che facilita l’integrazione tra framework per agenti e modelli di IA.
Anche gli altri partecipano con tecnologie diverse. HPE contribuisce a SPIFFE/SPIRE, un framework zero trust per verificare agenti e servizi, mentre Hugging Face mette a disposizione Safetensors, un formato per archiviare in sicurezza i pesi dei modelli. IBM e Red Hat portano Lightwell, pensato per rafforzare la catena di fornitura open source con patch firmate digitalmente, e Microsoft ha sviluppato MDASH, un sistema di scansione basato su agenti per individuare bug sfruttabili. Partecipa pure SpaceXAI, che ha reso open source Grok Build e ha anticipato l’intenzione di rilasciare in futuro anche i pesi della linea Grok.
L’annuncio arriva in un momento delicato sul piano politico. NVIDIA chiede a governi e autorità di trattare modelli e strumenti open source come risorse difensive, non come rischi da bloccare a priori. Secondo l’azienda restrizioni generalizzate rischierebbero di indebolire chi difende le infrastrutture critiche e di concentrare troppo potere nelle mani di pochi fornitori proprietari. Il tema pesa ancora di più visto che si parla di possibili restrizioni statunitensi sui modelli di IA open source sviluppati in Cina, che stanno guadagnando terreno grazie a costi bassi e maggiore libertà d’uso.
Curioso notare che alcuni dei grandi nomi americani dell’IA commerciale, tra cui OpenAI, Anthropic, Google e Meta, non figurano tra i fondatori dell’alleanza. NVIDIA in ogni caso non vuole rimpiazzare i modelli chiusi con quelli aperti, ma costruire un ecosistema dove le due strade convivano, lasciando ai difensori la libertà di scegliere la tecnologia giusta a seconda della situazione.