Un test piuttosto significativo ha mostrato iPhone 17 Pro alle prese con qualcosa che fino a poco tempo fa sembrava impensabile per uno smartphone: eseguire in locale un modello linguistico di grandi dimensioni (LLM) da 400 miliardi di parametri. Un risultato che, se confermato nelle condizioni reali di utilizzo, potrebbe rappresentare un salto generazionale per l’intelligenza artificiale su dispositivi mobili.
Già da qualche anno ormai la potenza di un dispositivo non si misura solo con benchmark tradizionali o con la fluidità nel gaming. Il vero banco di prova, sempre di più, è la capacità di far girare modelli di IA direttamente sul dispositivo, senza appoggiarsi a server remoti. E qui entra in gioco il nodo cruciale: i modelli LLM di grandi dimensioni, come quelli con 400 miliardi di parametri, richiedono di norma un hardware estremamente performante e una quantità enorme di memoria. Anche una versione quantizzata o compressa di un modello simile necessita di almeno 200 GB di RAM, una cifra che mette fuori gioco praticamente qualsiasi dispositivo portatile sul mercato.
Perché è un passo avanti così rilevante per Apple
Il fatto che iPhone 17 Pro sia riuscito a gestire localmente un LLM di queste dimensioni segna un punto importante nella strategia di Apple legata all’intelligenza artificiale. Per chi non mastica troppo il gergo tecnico: un LLM è il tipo di modello che sta alla base di strumenti come i chatbot avanzati, gli assistenti vocali intelligenti e molte altre funzionalità che oggi dipendono quasi interamente da una connessione internet. Portare tutto questo direttamente dentro lo smartphone significa poter sfruttare queste capacità anche senza connessione alla rete, il che cambia parecchio le carte in tavola.
Il tema della privacy, poi, non è secondario. Quando l’elaborazione avviene tutta in locale, i dati non devono viaggiare verso server esterni. E questo è un aspetto su cui Apple ha sempre puntato molto nella propria comunicazione e nel proprio ecosistema.
Fino ad oggi, far girare modelli di questa portata richiedeva configurazioni da centro di calcolo, con schede grafiche dedicate e quantitativi di memoria che uno smartphone non poteva nemmeno sognarsi. Il fatto che iPhone 17 Pro riesca a eseguire localmente un modello da 400 miliardi di parametri, anche in forma compressa, racconta di un progresso significativo a livello di chip e gestione della memoria.
