In questo articolo Indice dei contenuti 2 sezioni
Qualcomm ha alzato il velo su un pezzo importante del prossimo Snapdragon 8 Elite Gen 6, e il messaggio è chiaro. Gli agenti AI dovranno girare direttamente sul telefono, senza passare dai server. L’azienda ha anticipato le caratteristiche della nuova NPU Hexagon che troveremo dentro i chip di fascia alta, attesi alla presentazione ufficiale del 22 settembre durante l’annuale Snapdragon Summit. Le anticipazioni andavano avanti da settimane, ma stavolta si entra nel merito tecnico.
Il cuore della questione è l’elaborazione on device, cioè l’idea che il calcolo avvenga in locale e non in un data center dall’altra parte del mondo. Qualcomm sostiene di aver messo in campo due ingredienti per arrivarci. Il primo si chiama Element Accelerator, un’unità specializzata che lavora insieme agli altri tre blocchi presenti nella NPU, ovvero le unità scalare, vettoriale e tensoriale. Nome pomposo, funzione concreta: accelerare l’inferenza dei transformer, quindi far rispondere gli agenti più in fretta, ragionare in modo più efficiente e offrire esperienze più ricche. Parole di Qualcomm.
Snapdragon 8 Elite Gen 6: più memoria dentro la NPU e il muro dei 5 GHz superato
Il secondo ingrediente è meno appariscente ma pesa parecchio. Le quattro unità acceleratrici, tensor, vector, scalar e la nuova Element, ora condividono più memoria interna. Tradotto: il chip dipenderà meno dalla RAM del telefono, con tutto quello che ne consegue in termini di velocità e consumi.
Poi c’è il dato che Qualcomm sbandiera con più orgoglio. Il nuovo Snapdragon sarà il primo processore per smartphone a superare la soglia dei 5 GHz. Non un traguardo ottenuto limando il processo produttivo, spiega l’azienda, ma grazie a un design completamente custom. Per avere un metro di paragone, lo Snapdragon 8 Elite Gen 5 for Galaxy si ferma a 4,47 GHz. Il salto, insomma, non è cosmetico.
Anche la GPU promette bene. Si parla di gaming da PC e da console portato sul telefono, con tecnologie di upscaling dei frame migliorate, elaborazione parallela molto più rapida degli shader complessi, throughput elevato e un buffer di memoria dedicato on chip da 18 MB. Sulla carta, roba seria.
Mixture of Experts, ovvero come far entrare un modello grande in un telefono
Nel discorso entra un altro termine tecnico che vale la pena sciogliere: i modelli Mixture of Experts, abbreviati in MoE. È un’architettura di machine learning che spezzetta il modello in sottoreti più piccole, chiamate appunto esperti, e usa una specie di selettore per attivare solo il gruppo di esperti pertinente alla richiesta ricevuta. In parole povere, quando si usa l’AI sul telefono non si accende tutto il motore ma solo la parte che serve, con un risparmio netto di calcolo e memoria.
Il risultato che Qualcomm rivendica è notevole: modelli fino a 30 miliardi di parametri eseguiti localmente, sul dispositivo.
Da quando ChatGPT e gli altri modelli linguistici hanno iniziato a comparire sugli smartphone, tutti parlano di intelligenza artificiale locale. Qualche funzione girava davvero in locale, va detto, ma bastava staccare la connessione a internet per scoprire quanto fosse ampio il buco tra promesse e realtà. Una connessione serve comunque, perché un agente deve raccogliere dati e restare aggiornato, però tenere il calcolo sul telefono significa che le informazioni sensibili non finiscono su server e data center.
Doppio vantaggio, quindi. Maggiore sicurezza da un lato, e dall’altro agenti che dovrebbero rispondere molto più in fretta, senza la latenza di rete a rallentare tutto. Lo Snapdragon 8 Elite Gen 6 Pro è già finito sotto i riflettori per alcuni punteggi Geekbench trapelati, e il quadro che ne esce è quello di un chip parecchio muscoloso. Se riuscirà a tenere testa al nuovo A20 di Apple è un’altra faccenda, e la risposta arriverà solo con i test sul campo.
