In questo articolo Indice dei contenuti 3 sezioni
Il chip Jalapeño di OpenAI, sviluppato insieme a Broadcom, ha fatto il suo debutto sul palco di Hot Chips con numeri che puntano dritti al bersaglio grosso, ovvero le piattaforme rack di Nvidia. Martedì l’azienda ha presentato i primi benchmark pubblici del suo ASIC dedicato all’inferenza, sostenendo di aver battuto sia GB200 sia GB300 in efficienza e latenza. E lo avrebbe fatto con un componente da 700W contro acceleratori dichiarati a 1.200W e 1.400W, un divario di consumo che pesa parecchio quando si ragiona su interi data center.
Sulla suite pubblica InferenceX di SemiAnalysis, Jalapeño ha registrato da 1,5 a 1,9 volte più throughput per kilowatt e una latenza end to end da 1,7 a 3,6 volte inferiore rispetto ai sistemi rack Nvidia. I test hanno coinvolto tre modelli aperti, GPT-OSS 120B, DeepSeek R1 670B e Kimi K2.5 di Moonshot AI da mille miliardi di parametri. I vantaggi più ampi arrivano nei punti di lavoro a bassa latenza, dove OpenAI dichiara da 8,6 a 104,3 volte più throughput per kilowatt rispetto alle configurazioni più rapide di GB300 in termini di tempo tra un token e l’altro.
OpenAI Jalapeño: numeri da leggere con attenzione
C’è però un dettaglio metodologico che merita di essere raccontato. I risultati sono stati normalizzati sul TDP dichiarato di ogni acceleratore, anche se OpenAI ammette che il consumo reale sostenuto di Jalapeño è rimasto pari o sotto i 550W. In appendice compare un confronto basato sulla potenza elettrica complessiva per acceleratore, 1,18 kW contro 2,55 kW di GB300, e lì i margini si assottigliano parecchio. Stesso discorso quando GB300 lavora con la multi token prediction, tecnica comune negli impieghi reali, dove il picco di efficienza scende a circa 1,5 volte.
Manca poi il confronto con Vera Rubin, la piattaforma che dovrà alimentare il primo gigawatt di sistemi Nvidia che OpenAI si è impegnata a installare nella seconda metà del 2026. E il chip non addestra modelli, terreno su cui l’hardware Nvidia resta sostanzialmente senza rivali. SemiAnalysis, che dice di aver eseguito InferenceX in laboratorio insieme agli ingegneri di OpenAI, lo ha descritto come un pezzo capace di battere ogni chip Nvidia, AMD e Google testato finora.
Il nodo della memoria HBM
Ogni package di Jalapeño, svelato a giugno dopo un ciclo di nove mesi dal RTL al tapeout, affianca al die di calcolo sei stack di HBM4, per un totale di 216 GiB a 15,4 TB/s. GB300 monta 288 GB di HBM3E con un rating da 1.400W, quindi per ogni watt dichiarato il chip di OpenAI porta a bordo circa il 50% di memoria in più. La presentazione a Hot Chips chiarisce che il collo di bottiglia su cui l’architettura interviene è l’esposizione della banda aggregata della HBM, non l’aggiunta di altra memoria.
Quella memoria, va detto, è la merce più scarsa dell’intero settore dei semiconduttori. Samsung, SK hynix e Micron hanno già venduto la loro capacità fino al 2027, con una carenza tale che Nvidia starebbe testando versioni ridotte di Rubin Ultra con appena 192 GB. L’amministratore delegato di SK hynix, Kwak Noh-jung, ha avvertito che il 2027 sarà l’anno peggiore della stretta. Micron, sempre a Hot Chips, il 23 agosto ha spiegato che la HBM consuma circa tre volte l’area di wafer della DDR5 a parità di capacità, penalità destinata ad allargarsi a ogni generazione. Portare Jalapeño su scala dei 10 GW concordati con Broadcom lo scorso ottobre renderebbe OpenAI un nuovo grande pretendente alla fornitura di HBM4, oggi dominata da Nvidia grazie ad accordi pluriennali con SK hynix.
Rivali sulla carta, partner nei fatti
Un chip di seconda generazione è vicino al tapeout, atteso nel giro di mesi, mentre il lavoro concettuale sulla terza è già avviato. Il primo esemplare userebbe un processo TSMC di classe 3 nanometri, il che colloca OpenAI nelle stesse code per wafer, memoria e packaging avanzato di Blackwell e Rubin.
Nel frattempo la dipendenza finanziaria da Nvidia si fa più stretta. Il 17 agosto l’azienda di Jensen Huang ha accettato di garantire fino a circa 97 miliardi di euro di finanziamenti per un campus di data center in leasing a OpenAI in Ohio. “Nvidia è un partner davvero valido, e continuiamo ad avere bisogno di molta Nvidia”, ha dichiarato Richard Ho, vicepresidente hardware di OpenAI. Il dispiegamento di Jalapeño nei data center dell’azienda è previsto entro la fine dell’anno.
