In questo articolo Indice dei contenuti 2 sezioni
Microsoft ha presentato MAI Base 2, un nuovo modello di intelligenza artificiale basato su un’architettura Mixture of Experts che mette in campo 2,8 trilioni di parametri complessivi, di cui 80 miliardi attivi. A catturare l’attenzione è soprattutto il confronto diretto con uno dei rivali più osservati del momento. Secondo la divisione Microsoft AI il nuovo sistema garantirebbe un’efficienza nel preaddestramento da 4 a 12 volte superiore, misurata in FLOPs, rispetto a DeepSeek V4 Pro Base. Una dichiarazione che posiziona il colosso di Redmond in modo piuttosto deciso nella corsa ai modelli fondazionali di nuova generazione.
Il nome stesso offre già un indizio sulla natura del progetto. Il suffisso Base, nel linguaggio del settore, identifica un modello nella sua forma preaddestrata, cioè la struttura di partenza su cui poi vengono costruite le versioni ottimizzate per compiti specifici. Non a caso anche il termine di paragone scelto da Microsoft appartiene alla stessa categoria, così da mettere a confronto due sistemi che si trovano allo stesso stadio di sviluppo.
Come funziona un modello MoE da 2,8 trilioni di parametri
Per capire il peso di questi numeri conviene fare un passo indietro e guardare a come è fatto un modello MoE. In un’architettura tradizionale ogni richiesta attraversa l’intera rete neurale, coinvolgendo tutti i parametri disponibili. Con l’approccio Mixture of Experts invece il modello viene suddiviso in tanti blocchi specializzati, i cosiddetti esperti, e per ogni elaborazione se ne attiva soltanto una parte. Il risultato è una macchina enorme sulla carta che però lavora con una frazione delle proprie risorse alla volta.
Nel caso di MAI Base 2 la proporzione è piuttosto eloquente. Su 2,8 trilioni di parametri totali, quelli effettivamente in funzione sono 80 miliardi, vale a dire meno del 3% del totale. Questa impostazione permette di mantenere una capacità complessiva molto ampia senza dover pagare a ogni passaggio il costo computazionale dell’intera struttura. È proprio qui che si gioca buona parte della partita sull’efficienza, perché attivare meno parametri significa in linea di principio consumare meno calcolo per ciascuna operazione.
La sfida sull’efficienza con DeepSeek V4 Pro Base
Il cuore dell’annuncio sta nel confronto con DeepSeek. Microsoft sostiene che il proprio modello sia da 4 a 12 volte più efficiente nel preaddestramento rispetto a DeepSeek V4 Pro Base, utilizzando come unità di misura i FLOPs. Con questa sigla si indicano le operazioni in virgola mobile, ovvero il conteggio dei calcoli che i processori devono eseguire. Nel mondo dell’intelligenza artificiale rappresentano uno dei modi più diffusi per quantificare quanta potenza di elaborazione serve ad addestrare un sistema.
Parlare di efficienza in FLOPs durante il preaddestramento significa quindi ragionare su quanto calcolo occorre per ottenere un determinato risultato nella fase iniziale di formazione del modello, quella in cui la rete impara dai dati su larga scala. Microsoft non indica un valore unico ma una forbice piuttosto ampia, che va da un minimo di 4 volte fino a un massimo di 12 volte. Va sottolineato che si tratta di una rivendicazione dell’azienda stessa, presentata da Microsoft AI insieme al nuovo modello. Il paragone con DeepSeek V4 Pro Base non è casuale. Entrambi i sistemi vengono messi a confronto nella loro versione base, quella che precede qualsiasi rifinitura successiva, e il dato dichiarato da Microsoft riguarda esclusivamente la quantità di calcolo impiegata in questa fase di addestramento iniziale.
Fonte: TecnoAndroid