Vai al contenuto
Offerte

Nvidia Nemotron 3.5 Lightning: modello gratis per gli agenti IA

In questo articolo Indice dei contenuti 3 sezioni

Nvidia ha deciso di giocare la sua carta nella partita dell’intelligenza artificiale aperta, e lo ha fatto regalando un modello: si chiama Nemotron 3.5 Lightning, è gratuito, ha i pesi aperti ed è pensato specificamente per gli agenti di IA. Accanto al modello è arrivato anche NeMo Switchyard, uno strumento nato con un obiettivo molto concreto, cioè abbassare il costo di far girare quegli agenti quando il numero cresce e le richieste si moltiplicano. Due annunci che, messi uno accanto all’altro, raccontano una strategia piuttosto lucida.

Il punto è semplice e vale la pena dirlo subito: Nvidia non guadagna vendendo modelli, guadagna vendendo l’hardware su cui i modelli girano. Offrire gratis un modello competente significa spingere più sviluppatori e più aziende a costruire agenti, sapendo benissimo che ognuno di quegli agenti avrà bisogno di una GPU per funzionare. Preferibilmente una GPU con il logo dell’azienda sopra. È la tesi che Jensen Huang, amministratore delegato del gruppo, ripete da settimane in pubblico: i modelli aperti si traducono, alla fine della catena, in “una maggiore domanda di chip”.

Cosa fa davvero Nemotron 3.5 Lightning

Secondo l’azienda, Nemotron 3.5 Lightning è abbastanza leggero da girare su una singola GPU dentro un PC normale, senza bisogno di un data center alle spalle. Non è certo il primo modello con questa vocazione, il panorama locale è già affollato da famiglie come Qwen o Gemma di Google, ma le cifre dichiarate sono interessanti: risposte generate fino a quattro volte più rapidamente e compiti portati a termine circa il 30% più in fretta rispetto a modelli aperti comparabili.

La particolarità sta nel taglio. Non è un chatbot generalista, è costruito per compiti circoscritti e specializzati all’interno di sistemi multiagente più ampi, dove ogni pezzo fa una cosa sola e la fa bene. Alla base c’è la distillazione, tecnica ormai classica per i modelli locali: si addestra un modello piccolo sui risultati di uno grande, così il piccolo eredita buona parte delle capacità occupando una frazione dello spazio. In questo caso l’eredità arriva dai modelli Nemotron di dimensioni maggiori. Le aziende possono scaricarlo, usarlo e modificarlo senza pagare nulla e senza chiedere permessi. Realtà come CrowdStrike, CodeRabbit e Harvey lo hanno già provato e personalizzato. La distribuzione passa da Hugging Face, ModelScope, OpenRouter e dal sito dell’azienda.

Switchyard, il vigile urbano dei modelli

NeMo Switchyard risolve un problema che chiunque abbia messo in produzione un sistema di agenti conosce bene: usare sempre il modello più potente costa una fortuna, e spesso non serve. Lo strumento, anch’esso open source, decide automaticamente quale modello deve occuparsi di ogni singolo passaggio di un compito, valutando quanta precisione richiede la richiesta e quanto costerebbe soddisfarla. Solo quando serve davvero si passa al modello più costoso. Nei test interni dell’azienda, Switchyard riuscirebbe a eguagliare le prestazioni dei modelli di punta spendendo circa un terzo di quello che costerebbe affidarsi soltanto a Opus 4.8 di Anthropic.

Perché proprio adesso

Il tempismo non è casuale. L’annuncio arriva poche settimane dopo la lettera aperta con cui Huang ha difeso l’intelligenza artificiale a pesi aperti, mettendo in guardia contro “restrizioni prematuree” capaci di ridisegnare la geografia dell’innovazione. Un messaggio indirizzato a Washington, dove l’inquietudine è cresciuta dopo l’arrivo di Kimi K3 di Moonshot AI, modello che ha accorciato sensibilmente la distanza tra le capacità americane e quelle cinesi.

“L’IA gratuita dovrebbe essere eccellente per l’hardware. L’IA gratuita dovrebbe essere eccellente per i chip”, ha detto Huang il mese scorso. Kari Briski, vicepresidente del software di IA generativa per le imprese in Nvidia, ha aggiunto un altro argomento: strumenti come Lightning e Switchyard aiutano le aziende a proteggere i propri dati, in un momento in cui diversi settori sono sempre meno disposti a spedire informazioni riservate ai server di una Big Tech. Nvidia non è sola su questa strada. Il giorno precedente Meta ha presentato Muse Spark, modello specializzato nella programmazione, con Mark Zuckerberg schierato a favore del codice aperto e convinto che i modelli aperti americani debbano “aspirare a essere i migliori al mondo”.

Condividi:
192 Condivisioni