In questo articolo Indice dei contenuti 3 sezioni
Secondo Sam Altman avere grandi quantità di RAM dentro i personal computer è un uso “piuttosto terribile” della limitata disponibilità mondiale di DRAM. Il CEO di OpenAI ritiene che i data center nel cloud sappiano sfruttare queste risorse in modo molto più efficiente. La sua posizione arriva in un momento delicato, perché la domanda enorme di memoria da parte dell’intelligenza artificiale sta facendo schizzare verso l’alto i prezzi dell’hardware destinato ai consumatori.
L’occasione è stata una recente puntata del podcast Cheeky Pint, dove Altman ha dialogato con John Collison, cofondatore di Stripe. Al centro della conversazione c’erano la scarsità di potenza di calcolo e di memoria, insieme al crescente interesse verso i modelli di intelligenza artificiale open source da far girare in locale, senza appoggiarsi alle infrastrutture remote.
Il ragionamento di Altman sui modelli in locale
C’è chi pensa che la diffusione di modelli locali sempre più capaci possa ridurre parecchio il bisogno di nuovi data center. Altman non è d’accordo e fa leva su un punto preciso, cioè il basso utilizzo effettivo della memoria installata nei computer personali. Le sue parole sono state piuttosto dirette: “È piuttosto terribile che ognuno abbia una parte della limitata offerta mondiale di DRAM ferma nel proprio computer”.
Il numero americano ha stimato che quella memoria venga sfruttata più o meno il 5% del tempo, senza però fornire dati a sostegno della cifra. Da qui la sua tesi: in una fase in cui l’offerta è così ristretta avrebbe più senso massimizzare l’utilizzo delle risorse attraverso un’infrastruttura cloud condivisa. Va precisato che Altman si riferiva all’efficienza dell’inferenza AI eseguita in locale e non ha detto esplicitamente che le persone dovrebbero smettere di comprare RAM.
Curiosamente, lo stesso Altman ha ammesso che il mercato fatica a reagire alla carenza. A suo avviso i produttori di memoria restano restii a investire con decisione in nuova capacità produttiva, perché hanno ancora in mente i cicli passati di forte espansione seguiti da crolli improvvisi.
Una carenza che pesa sulle tasche dei consumatori
Le dichiarazioni assumono un peso particolare vista la carenza di memoria senza precedenti che sta colpendo il mercato dei PC. Gli investimenti nelle infrastrutture per l’intelligenza artificiale stanno assorbendo una fetta consistente della capacità produttiva disponibile.
Samsung prevede che la situazione peggiori nel 2027 e che i vincoli sull’offerta possano proseguire fino al 2028. Il colosso sudcoreano ha già esaurito le forniture di memoria HBM per il 2027 e ha firmato accordi di lungo periodo che coprono circa tra il 60 e il 70% della propria capacità produttiva.
Intanto in Giappone i prezzi delle memorie DDR5 sono saliti fino al 761% nell’arco dell’ultimo anno per alcuni kit ad alta capacità. Un caso emblematico riguarda un kit DDR5 da 32 GB a 7600 MT/s acquistato nel 2024 per circa 100 euro e oggi proposto a oltre 1.300 euro, anche se sul mercato restano disponibili alternative decisamente più economiche. A livello globale la scarsità di DRAM continua a spingere i listini verso l’alto e secondo le stime i produttori riusciranno a coprire appena il 60% della domanda mondiale entro la fine del 2027, con i data center dedicati all’AI che si prendono una quota sempre più ampia della produzione.
Cosa offre ancora il calcolo locale
L’argomentazione sull’utilizzo delle risorse ha una sua logica economica. Il calcolo eseguito sul proprio computer garantisce però vantaggi che un’infrastruttura centralizzata non può necessariamente replicare, come il funzionamento offline, un maggiore controllo sui dati personali e l’indipendenza da servizi esterni.
Difficilmente le parole di Altman verranno accolte bene dagli appassionati di PC, che già si trovano a fare i conti con prezzi della RAM ai massimi storici. Tanto più che proprio le gigantesche esigenze infrastrutturali del settore dell’intelligenza artificiale figurano tra le cause principali della carenza in corso.
Fonte: TecnoAndroid