La corsa alle GPU NVIDIA di Moonshot per addestrare il futuro modello Kimi K4 sta diventando una sfida diretta all’amministrazione Trump, e la cosa non passa certo inosservata. L’azienda cinese sembra decisa a percorrere di nuovo la stessa strada silenziosa che le ha permesso di sviluppare il precedente Kimi K3, incurante dei rischi geopolitici enormi che questa scelta comporta. Delle due l’una. O Moonshot non ha ben chiari i pericoli, oppure ha deciso semplicemente di ignorarli.
Kimi K4: un modello enorme e una fame di calcolo difficile da soddisfare
Kimi K3 è stato presentato di recente come progetto open source con la bellezza di 2,8 trilioni di parametri, pensato per un’intelligenza di frontiera. È un modello multimodale, con una finestra di contesto di circa 1 milione di token, e offre prestazioni competitive e più veloci rispetto a molti concorrenti. Il punto interessante è l’efficienza. Gira bene su hardware da data center grazie a una cache KV ridotta e a ottimizzazioni sul consumo di memoria per singolo token, ottenute distribuendo i suoi 896 esperti su un gran numero di GPU.
Numeri che fanno gola. Secondo i calcoli di Microsoft, spostando Copilot dai modelli di OpenAI e Anthropic verso Kimi K3 si potrebbero risparmiare fino a 600 milioni di dollari (circa 555 milioni di euro) in costi di inferenza. Una cifra che spiega bene perché tanti guardino con attenzione a quello che fa Moonshot.
La faccenda però si è complicata quando l’azienda è finita nel mezzo dello scontro tra Cina e Stati Uniti. Anthropic e alcuni membri dell’amministrazione Trump hanno accusato Moonshot di aver distillato il proprio Kimi K3 partendo da Fable di Anthropic. Da tempo negli Stati Uniti si sospetta che ingegneri cinesi portino i loro hard disk carichi di modelli in Paesi amici degli USA, per potenziarli con tecniche di reinforcement learning su GPU NVIDIA di ultima generazione.
GB300, Thailandia e i controlli sull’export
Stando alle accuse mosse da un funzionario dell’amministrazione, Moonshot possiederebbe di nascosto alcuni server NVIDIA GB300 e sarebbe riuscita ad accedere ad altre unità passando dalla Thailandia. Va detto però che i tempi non tornano del tutto. Fable è stato sbloccato verso la fine di giugno, mentre Kimi K3 è uscito attorno alla metà di luglio. Troppo poco per distillare un modello così mastodontico, per non parlare delle sue soluzioni architetturali uniche che in Fable non ci sono. Più probabile che Moonshot abbia semplicemente rifinito alcune risposte del suo modello usando Fable.
E qui arriva il nocciolo della questione. Dopo il successo travolgente di Kimi K3, Moonshot starebbe ora cercando di mettere le mani su una scorta ancora più grande di GPU NVIDIA Blackwell per il futuro Kimi K4, mostrandosi pronta a sfidare apertamente i controlli americani sull’export. Non è che l’azienda non usi chip domestici, intendiamoci. I suoi ingegneri sono riusciti a collegare più server da otto chip ciascuno tra diversi data center in Cina proprio per addestrare Kimi K3. Ma dato che Kimi K4 supererà con ogni probabilità i 2,8 trilioni di parametri del predecessore, la fame di potenza di calcolo è tale da spingere l’azienda a correre il rischio.
Sullo sfondo, l’amministrazione Trump sta valutando se vietare del tutto i modelli a pesi aperti provenienti dalla Cina. I pesi, per chi non mastica la materia, dicono a un modello quanta importanza dare a un concetto o a una sequenza di parole. Partono come numeri casuali e vengono via via corretti a ogni passaggio, misurando la distanza tra la previsione e il valore reale. I modelli open weight come Kimi K3 rendono pubblici questi pesi, svelando l’architettura complessiva, mentre quelli chiusi come Claude di Anthropic no.
Su questo fronte, i grandi nomi del settore, tra cui NVIDIA, Microsoft, Meta, Dell, Perplexity, Palantir e Mistral AI, hanno firmato una lettera per chiedere all’amministrazione Trump di fare in modo che l’ecosistema dei modelli a pesi aperti continui a prosperare.