In questo articolo Indice dei contenuti 3 sezioni
Meta ha deciso di rendere accessibili a tutti i pesi del modello Muse Spark, il suo nuovo sistema di intelligenza artificiale che si presenta con numeri decisamente fuori scala. Si parla di 816 miliardi di parametri e di una finestra di contesto che arriva a un milione di token. L’azienda lo descrive senza troppi giri di parole come il modello aperto americano più capace, e il messaggio rivolto ai concorrenti cinesi è piuttosto evidente. C’è però un dettaglio che riporta tutti con i piedi per terra, perché chi vuole farlo girare in casa deve mettere in conto due Mac Studio da 512 GB.
Cosa significa aprire i pesi di Muse Spark
Quando si parla di pesi ci si riferisce all’insieme dei valori numerici che un modello impara durante l’addestramento. Sono in pratica la sostanza di ciò che il sistema “sa”, quella parte che determina come risponde a una domanda o come interpreta un testo. Distribuire questi dati significa permettere a chiunque disponga dell’hardware adatto di scaricare Muse Spark ed eseguirlo in locale, senza dover passare necessariamente dai server dell’azienda.
La quantità di parametri offre un’idea abbastanza concreta delle dimensioni del progetto. Con 816 miliardi di valori da gestire siamo davanti a un modello di taglia enorme, ben lontano dalle versioni compatte pensate per girare su un portatile qualsiasi. Altrettanto rilevante è la finestra di contesto, cioè la mole di informazioni che il sistema riesce a considerare in una sola volta. Un milione di token equivale a una quantità di testo molto ampia, visto che i token sono piccoli frammenti di parole con cui il modello scompone e legge ciò che riceve. Tradotto in termini pratici, Muse Spark può lavorare su documenti lunghissimi o su conversazioni estese senza perdere il filo.
Due Mac Studio per farlo girare in casa
La possibilità di usare il modello sul proprio computer esiste davvero, ma richiede una dotazione che pochi hanno sulla scrivania. Per eseguire Muse Spark in ambiente domestico servono infatti due Mac Studio configurati con 512 GB di memoria ciascuno. Sommando le due macchine si arriva a 1024 GB complessivi, una cifra che rende bene l’idea di quanto spazio occupi un sistema di queste dimensioni una volta caricato.
Il punto è proprio questo. Un modello aperto non è automaticamente un modello alla portata di tutti, almeno non nella sua versione completa. L’apertura dei pesi rende tecnicamente possibile l’uso privato, però la barriera dell’hardware resta alta e la scelta di Meta finisce per interessare soprattutto sviluppatori, laboratori di ricerca e realtà con risorse adeguate. Per chi ha a disposizione una configurazione del genere, comunque, si apre la strada a un’intelligenza artificiale di fascia altissima gestita interamente sulle proprie macchine.
La sfida ai modelli cinesi
Dietro l’operazione c’è anche una precisa posizione nel panorama internazionale. Presentando Muse Spark come il modello aperto americano più capace, Meta si colloca in diretta competizione con le proposte provenienti dalla Cina, che negli ultimi tempi hanno occupato una parte importante della scena dei modelli con pesi liberamente scaricabili.
La partita si gioca quindi su più livelli. Da una parte ci sono le prestazioni, rappresentate dagli 816 miliardi di parametri e dal contesto da un milione di token. Dall’altra c’è la scelta di rendere disponibile il sistema nella sua interezza, una decisione che punta ad attirare chi preferisce lavorare con strumenti aperti. Meta ha lanciato così la propria sfida ai concorrenti cinesi mettendo a disposizione di tutti i pesi del suo modello più grande, con l’unico vincolo pratico di avere a disposizione due Mac Studio da 512 GB per farlo funzionare in casa.
Fonte: TecnoAndroid