In questo articolo Indice dei contenuti 2 sezioni
La CPU NVIDIA Vera mette a segno un risultato notevole nei carichi di lavoro legati all’Agentic AI, quelli in cui agenti software scrivono ed eseguono codice in autonomia. Nei nuovi benchmark condotti da Daytona, il processore basato su architettura Arm ha portato online 2.000 sandbox in meno tempo di quanto i chip AMD EPYC “Zen 5” impieghino per avviarne appena 1.000. Nel confronto più sfavorevole per AMD il distacco arriva a un’accelerazione di 8 volte rispetto alla soluzione x86.
Daytona è un ambiente di esecuzione pensato proprio per il codice generato dall’intelligenza artificiale e per i flussi di lavoro degli agenti. Il punto di partenza è noto da tempo: questi carichi si appoggiano pesantemente sul processore centrale. Con l’arrivo dell’era agentica una parte consistente del lavoro si è spostata dalle GPU alle CPU, perché le attività che coinvolgono filesystem, dipendenze, shell e test sono diventate il cuore del nuovo mercato. Servono quindi chip veloci, efficienti e progettati per gestire proprio questo tipo di operazioni.
Nvidia Vera: Sandbox online in pochi secondi
NVIDIA ha disegnato Vera mettendo l’intelligenza artificiale al primo posto, e i numeri lo confermano. Il team di Daytona ha misurato le prestazioni affidando lo stesso compito di un agente di programmazione a grandi flotte di sandbox. Non basta che il processore ne sostenga molte contemporaneamente, conta anche la rapidità con cui riesce ad avviarle.
Nei test il chip di NVIDIA ha toccato un picco di 13,3 lavori completati al secondo. Soprattutto ha messo online 1.000 sandbox in 10,8 secondi e 2.000 in 27,4 secondi. La CPU di riferimento di AMD, l’EPYC 9755, ha avuto bisogno di 88,4 secondi per arrivare a quota 1.000. La variante con frequenze più alte, l’EPYC 9575F, è scesa a 32,3 secondi, un miglioramento evidente che però non basta a colmare il divario. Qui emerge il peso delle prestazioni per singolo core, terreno su cui Vera resta davanti all’architettura Zen 5.
Anche il throughput sostenuto racconta una storia piuttosto chiara. L’EPYC 9575F si stabilizza intorno agli 8 lavori al secondo e l’EPYC 9755 attorno agli 11, mentre NVIDIA Vera raggiunge 13,3 e rimane vicina a 13 fino a 2.000 sandbox attive.
Meno server per lo stesso lavoro
Daytona ha condiviso un altro dato interessante, il throughput per macchina, cioè quante macchine servono per reggere questi carichi. Per completare 1.000 lavori al secondo la piattaforma Vera richiede il 15% di macchine in meno rispetto all’EPYC 9755 e il 38% in meno rispetto all’EPYC 9575F. Un vantaggio che pesa sul costo totale di gestione, perché consente alle aziende di fare di più con meno server, meno energia, meno raffreddamento e spese ridotte per allestire grandi AI factory. In alternativa, a parità di investimento infrastrutturale rispetto alla concorrenza, si ottiene un throughput più elevato.
Secondo Vedran Jukić, cofondatore e CTO di Daytona, il dato davvero rilevante non è il picco ma quello che succede quando la macchina è piena. “Vera continua a eseguire i carichi degli agenti quasi alla stessa velocità fino a 2.000 sandbox. Rallenta un po’ ma resta stabile invece di crollare. Migliaia di agenti su una sola macchina, e Vera li tiene in vita. È questo che conta.”
Gli agenti stanno infatti trasformando l’infrastruttura in un problema di densità. Ognuno ha bisogno del proprio filesystem, dei propri strumenti e del proprio ambiente, e questi ambienti vanno creati a migliaia e mantenuti produttivi su hardware condiviso.
Nel frattempo AMD ha lanciato le CPU EPYC Zen 6, che dovrebbero garantire risultati decisamente migliori negli stessi scenari, visto che l’Agentic AI è uno dei settori su cui l’azienda punta con maggiore decisione. Per NVIDIA, comunque, Vera rappresenta un netto passo avanti rispetto ai processori Grace, con prestazioni superiori a Zen 5 e una competitività che si estende anche ai chip Zen 6.
Fonte: TecnoAndroid
