In questo articolo Indice dei contenuti 2 sezioni
NVIDIA ha deciso di rendere pubblico il codice sorgente di Run:ai, la piattaforma pensata per coordinare i carichi di lavoro legati all’Intelligenza Artificiale e per distribuire le risorse delle GPU negli ambienti Kubernetes. Si tratta di una scelta che apre nuove strade ad aziende, sviluppatori e fornitori di servizi cloud, ora liberi di esaminare il software, modificarlo e inserirlo nelle proprie infrastrutture. Insieme al codice, come annunciato dalla stessa società nei giorni scorsi, arrivano anche gli strumenti per programmare le attività di calcolo, amministrare le risorse condivise e gestire l’esecuzione dei modelli. Tutto è stato pubblicato su GitHub con licenza Apache 2.0.
Come funziona Run:ai ora che è open source
Run:ai lavora sopra Kubernetes senza prenderne il posto e consente di orchestrare le fasi di sviluppo, addestramento e inferenza dei modelli AI. Il suo ruolo principale è ripartire la capacità di calcolo disponibile tra gruppi di lavoro e applicazioni, così da evitare che alcune GPU restino ferme mentre altri processi aspettano il proprio turno.
Dentro la piattaforma c’è un piano di controllo che si occupa dell’invio dei carichi, della gestione delle risorse e del monitoraggio, affiancato da servizi installati direttamente nei cluster. Gli amministratori hanno a disposizione diverse strade per interagire con il sistema: un’interfaccia Web, una riga di comando, le API REST e un server MCP che può servire anche per collegare assistenti AI.
Il pacchetto rilasciato da NVIDIA si compone di quattro moduli distinti. Il primo è KAI Scheduler, che pianifica i carichi tenendo conto di priorità, quote, topologia dell’hardware e condivisione delle schede. C’è poi GPU Fractioning Operator, che permette di assegnare porzioni della memoria di un singolo acceleratore ai vari carichi sfruttando le funzioni native di CUDA 13.4. KAI Resource Management organizza invece le risorse in base a strutture aziendali, progetti e gruppi, mentre Workload Map fornisce un modello comune per descrivere e amministrare tipologie diverse di carichi Kubernetes.
Proprio questa architettura a blocchi lascia libertà di scelta: si può adottare l’intera piattaforma oppure integrare soltanto le componenti che servono davvero. KAI Scheduler è stato inoltre donato alla Cloud Native Computing Foundation come progetto Sandbox, con l’obiettivo di farlo crescere grazie a una comunità aperta.
Distribuzione gratuita, partner e limiti da considerare
Per mettere le mani sul software le organizzazioni possono scaricare il codice dal repository ufficiale su GitHub oppure installare la versione integrata passando dal catalogo NVIDIA NGC, che offre un pacchetto Community con chart Helm. La licenza aperta permette di usare Run:ai senza sottoscrivere un abbonamento commerciale, anche se in questo caso non è previsto il supporto enterprise della casa americana.
Attorno al progetto si sta muovendo anche un gruppo di fornitori che stanno inserendo la piattaforma nelle proprie offerte. Tra i nomi coinvolti compaiono Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud e vCluster. Le loro integrazioni mirano a rendere più semplice la distribuzione dello strumento, la gestione dei cluster e l’erogazione di servizi basati sull’intelligenza artificiale.
Chi vuole sperimentare in locale può contare su una procedura che sfrutta un cluster Kubernetes simulato, pensata per fare prove anche senza avere fisicamente a disposizione acceleratori NVIDIA. L’ambiente però chiede comunque risorse hardware piuttosto consistenti e, nella configurazione descritta, non supporta Windows come sistema host.
Per le imprese resta poi un aspetto da non sottovalutare. Avere accesso al codice non cancella le necessità legate a manutenzione, sicurezza e gestione operativa. Chi punta sull’installazione autonoma deve fare i conti con le competenze interne, con l’infrastruttura disponibile e con la responsabilità degli aggiornamenti. Negli ambienti produttivi più articolati, le soluzioni commerciali di NVIDIA e quelle dei partner possono quindi continuare a essere un’alternativa per chi ha bisogno di assistenza e servizi gestiti.
Fonte: TecnoAndroid