In questo articolo Indice dei contenuti 2 sezioni
Gli smartphone capaci di far girare in modo continuo modelli di intelligenza artificiale da 100 miliardi di parametri potrebbero arrivare entro il 2028. A sostenerlo è Cristiano Amon, amministratore delegato di Qualcomm, convinto che l’epoca dei telefoni in grado di gestire LLM da 100B sia ormai dietro l’angolo. Secondo il manager alcune aziende del settore starebbero già lavorando a dispositivi pensati proprio per questo scopo. Peccato che la previsione lasci in ombra due questioni tutt’altro che marginali, ovvero la disponibilità della DRAM e il suo costo.
Il vero collo di bottiglia, infatti, è la memoria. Per far funzionare modelli più densi su un telefono serve tantissima RAM e, guardando l’attuale situazione del mercato, appare poco probabile che a breve si superi la soglia dei 16 GB. Amon ha comunque lasciato intendere che i produttori integreranno quantità di memoria considerevoli, e questo proprio in una fase in cui le forniture scarseggiano e i prezzi sono schizzati alle stelle.
Le promesse di Qualcomm e il nodo della RAM
Nel corso di un’intervista pubblicata il 10 ottobre 2026, il numero uno di Qualcomm ha spiegato di dover fare attenzione a non rivelare nomi. Ha però confermato che alcune delle realtà all’avanguardia nell’AI vogliono telefoni capaci di eseguire modelli da 100 miliardi di parametri in modo continuo entro il 2028, e che alcune di queste stanno già costruendo i propri dispositivi. Un’affermazione decisamente ambiziosa, quasi un’impresa titanica viste le condizioni attuali.
La crisi delle memorie ha spinto parecchi produttori a rinunciare alle varianti con più RAM, quando appena un anno fa circolavano dispositivi Android con ben 24 GB di LPDDR5X. E basta fare due conti per capire la portata del problema. Un modello da 100 miliardi di parametri quantizzato a 4 bit richiederebbe almeno 50 GB di RAM, a cui aggiungere lo spazio necessario per il sistema operativo, le app e la cache del contesto. Nemmeno scendere a 2 bit risolverebbe la questione, perché servirebbero comunque 25 GB riservati esclusivamente al modello.
Anche ammettendo che gli ostacoli legati a costi e forniture della DRAM vengano superati, c’è poi il capitolo del calore. Far girare modelli così densi senza interruzioni genera temperature elevate, con il rischio concreto di thermal throttling, cioè il calo delle prestazioni che il dispositivo applica per proteggersi dal surriscaldamento.
Quantizzazione, MoE e memoria flash: le strade possibili
Apple e Qualcomm hanno in parte affrontato la questione cambiando l’approccio al packaging dei chip con A20 Pro e Snapdragon 8 Elite Extreme Gen 6. Il limite legato alla memoria però continuerà a esistere, a meno di non adottare soluzioni più originali. Una di queste è la quantizzazione aggressiva, che riduce drasticamente il fabbisogno di RAM al punto che le versioni a 1 bit riescono a stare nella DRAM. Il rovescio della medaglia è che la qualità del modello peggiora sensibilmente sotto i 4 bit, soprattutto nelle attività di ragionamento.
Un’alternativa arriva dall’architettura MoE, acronimo di Mixture of Experts, abbinata allo spostamento degli esperti. Per ogni token si attiva solo una piccola parte di questi esperti, che resta così nella RAM, mentre tutto il resto viene conservato nella memoria flash. Proprio sull’archiviazione interna Apple ha condotto ricerche per eseguire gli LLM direttamente da lì, con un limite evidente però. Le memorie UFS e NVMe sono più lente della DRAM e la velocità di inferenza può calare in modo sensibile.
Le dichiarazioni del CEO, prive di una tabella di marcia precisa, non avvicinano di molto il traguardo di vedere modelli così densi sugli smartphone, anche se l’idea di telefoni con le stesse capacità di macchine ben più grandi resta affascinante. Nel frattempo la via più concreta sembra un’altra. Un modello distillato da 20 o 30 miliardi di parametri può infatti avvicinarsi alla qualità di uno da 100 miliardi una volta eseguito su smartphone, ed è questa la strategia più realistica e più facile da proporre al mercato per le aziende.
Fonte: TecnoAndroid
