PrismML

Far girare modelli AI davvero grandi dentro un iPhone, senza appoggiarsi a server remoti, sembrava fantascienza fino a poco tempo fa. Eppure Apple ci starebbe pensando sul serio. Secondo alcune indiscrezioni, Cupertino avrebbe avviato dei colloqui con PrismML, una realtà nata da una costola del Caltech, con l'obiettivo di portare modelli linguistici di grandi dimensioni sul telefono. La cosa interessante è che tutto questo avverrebbe senza divorare lo spazio di archiviazione che di solito questi sistemi si portano dietro. Ma cosa fa esattamente questa azienda. PrismML si è fatta un nome costruendo modelli linguistici ultra densi, capaci di offrire le stesse prestazioni occupando una frazione dello spazio. In pratica comprimono il modello e ne alleggeriscono i requisiti hardware, così può girare anche su componenti molto meno potenti senza perdere colpi. E i numeri, se confermati, fanno drizzare le antenne. L'azienda sarebbe riuscita a ridurre le dimensioni del potente modello Qwen 3.6 27B di Alibaba per farlo girare su iPhone 17 Pro. Parliamo di un modello da 27 miliardi di parametri, quindi più capace dell'AFM 3 Core Advanced presente su iPhone 17 Pro e Pro Max, che di parametri ne ha appena 20 miliardi. Come funziona il trucco dietro Apple Intelligence Qui sta il punto davvero curioso. Apple si appoggia a un'architettura sparsa, che tiene attivi solo tra uno e quattro miliardi di parametri durante l'elaborazione dei dati. La soluzione di PrismML invece permette a tutti i 27 miliardi di parametri di Qwen di lavorare contemporaneamente, rendendolo di fatto il più grande modello AI mai fatto girare in modo nativo su un iPhone finora. Tradotto in prestazioni, si parla di un risultato tra 7 e 27 volte migliore sullo stesso hardware di iPhone 17 Pro rispetto alla soluzione attuale di Apple. Significa che Apple Intelligence potrebbe fare un salto enorme nel prossimo futuro, con funzioni molto più potenti e soprattutto competitive nel panorama mobile, dove la concorrenza non dorme. Ma come ci riescono. La risposta sta nell'algebra, per quanto possa sembrare strano. Normalmente far girare un modello da 27 miliardi di parametri richiederebbe almeno 64 GB di RAM, una quantità che nessun telefono possiede. PrismML si affida invece all'algebra lineare per abbattere drasticamente questa richiesta. Invece di usare complessi dati frazionari, il framework punta su pesi ternari semplificati a 1 bit, molto più efficienti rispetto ai modelli linguistici standard. Un salto tecnico niente male. Un modello cinese dentro i futuri iPhone Difficile crederci fino in fondo. Per quanto i grandi modelli di Alibaba siano competitivi, immaginare le polemiche che Apple si tirerebbe addosso appoggiandosi a un modello AI cinese per le future versioni di Siri non è complicato. Con ogni probabilità la soluzione di PrismML resta per ora solo una prova di concetto, un modo per dimostrare che la cosa si può fare. C'è chi guarda all'intelligenza artificiale con una certa diffidenza, ed è un sentimento condiviso da parecchie persone. Eppure questa tecnologia ormai è entrata nelle nostre vite e non sembra volersene andare, nonostante un'adozione pubblica non sempre entusiasta. E allora, se proprio deve restare, tanto vale renderla il più efficiente e ottimizzata possibile. Un moderno iPhone racchiude già più potenza di quanta la maggior parte delle persone utilizzi davvero. Sfruttarla per ottimizzare l'AI direttamente sul dispositivo avrebbe senso, anche solo per bilanciare quello che stanno facendo quei grandi e rumorosi data center sparsi per il mondo. Fonte

PrismML

Modelli AI giganti su iPhone: la scommessa di Apple con PrismML