In questo articolo Indice dei contenuti 2 sezioni
Sam Altman non vede di buon occhio chi sceglie di far girare un’IA locale sul proprio computer. Secondo il numero uno di OpenAI si tratta di un vero spreco di una risorsa oggi rarissima come la memoria DRAM, che a suo avviso dovrebbe finire nei centri dati e non nelle case delle persone. Il commento è arrivato durante una puntata di Cheeky Pint, il podcast condotto da John Collison, cofondatore della piattaforma Stripe, dove passano spesso dirigenti di peso del settore tecnologico come di recente Susan Li, direttrice finanziaria di Meta.
Nel corso della chiacchierata si è parlato di parecchi argomenti, ma il passaggio che ha acceso le discussioni sui social riguarda gli utenti che scaricano modelli aperti e li eseguono sul proprio hardware senza appoggiarsi al cloud di nessuno. Altman è stato piuttosto netto: “L’inferenza locale è una terribile allocazione di risorse scarse. Molte persone la vogliono e in qualche modo danno per scontato che il problema sia risolto perché abbiamo modelli open source da far girare sui nostri computer senza bisogno di tutto ciò che rendono possibile i data center. Ma da una prospettiva di allocazione globale è piuttosto terribile che ognuno abbia il proprio computer con una DRAM usata appena il 5% del tempo, proprio in un momento in cui questa risorsa è così limitata. In un contesto in cui una fornitura critica è tanto ristretta si vuole la massima concentrazione nel cloud. Eppure l’idea delle persone va nella direzione opposta.”
Perché la DRAM è diventata un bene così prezioso
La cifra del 5% è una stima dello stesso CEO di OpenAI, che proprio per questo considera uno spreco tenere in casa una memoria del genere quando, con un’offerta così scarsa, l’utilizzo massimo si ottiene solo all’interno di un data center. È ovviamente il suo punto di vista. Dall’altra parte c’è chi ha la propria intelligenza artificiale personale perché i modelli aperti risolvono già il problema da affrontare e garantiscono una privacy maggiore rispetto a ChatGPT.
Il ragionamento di Altman parte da un dato che riguarda tutti e in particolare i consumatori. Micron, Samsung e SK Hynix, che controllano la produzione mondiale di DRAM, non riescono ad aumentare i volumi al ritmo richiesto dagli hyperscaler, e quindi secondo lui tutta la capacità disponibile dovrebbe andare ai centri dati invece che ai computer domestici. Cinque anni fa, con prezzi ai minimi, nessuno lo avrebbe immaginato. Oggi invece si parla di un bene critico, con rincari compresi tra il 90% e il 95% nel primo trimestre del 2026 secondo TrendForce e nessun segnale di calo nel breve periodo.
Il commento è emerso mentre si discuteva della carenza di potenza di calcolo. Altman sostiene che il mercato non stia reagendo come dovrebbe e che i grandi produttori di memoria, nonostante gli enormi profitti degli ultimi dodici mesi, mantengano investimenti prudenti rispetto a quanto richiede la situazione. I tre colossi si sono mossi per attivare nuovi stabilimenti, arrivando perfino a ridurre la produzione di chip consumer per dedicare le linee alla memoria HBM necessaria ai centri dati, ma in questo segmento aprire nuove fabbriche ad alte prestazioni non è cosa da un giorno all’altro. Lo sa bene la Cina, che da mesi si propone come alternativa nel mercato della DRAM ma per ora resta posizionata soprattutto sulla memoria di consumo proprio per via dei requisiti molto esigenti dei chip più avanzati.
Chip su misura e il precedente di gpt oss
Come rimedio Altman indica l’ingresso di nuovi attori nella catena di approvvigionamento. OpenAI sta sviluppando insieme a Broadcom un chip proprietario chiamato Jalapeño che avrebbe comunque bisogno di DRAM, anche se un processore progettato su misura permette di ottimizzare molto di più. Sulla stessa strada si trovano SpaceX, Amazon, Meta e Microsoft, oltre a Google che con le sue TPU vanta un po’ più di esperienza.
Fonte: TecnoAndroid