Kimi K3 ha scombussolato le classifiche e ha fatto scattare un allarme dentro OpenAI, che ora reagisce con toni piuttosto pesanti. Il modello sviluppato da Moonshot è balzato in cima al ranking di Arena per il codice front-end, e la mossa non è passata inosservata. Un dirigente di OpenAI ha tirato fuori un’espressione che ha fatto discutere parecchio, parlando addirittura di comunismo dell’intelligenza artificiale. Il riferimento è chiaro: i modelli cinesi a pesi aperti stanno mettendo in crisi il modello di business su cui aziende come OpenAI e Anthropic hanno costruito le loro fortune.
Cosa rende Kimi K3 così diverso dagli altri
Partiamo dai numeri, perché sono impressionanti. Kimi K3 conta 2,8 trilioni di parametri ed è stato pensato per l’intelligenza su scala di frontiera. È multimodale, ha una finestra di contesto intorno al milione di token e offre prestazioni competitive, spesso più rapide rispetto a molti concorrenti diretti. Moonshot ha probabilmente distillato le basi del modello da Claude di Anthropic, ma il vero elemento originale è un’architettura legata alla cache KV chiamata Kimi Delta Attention, o KDA.
Per capirci qualcosa senza impazzire, immaginate di scrivere una storia con una memoria a breve termine pessima. Ogni volta che aggiungete una parola, dovete rileggere tutto quello che avete scritto fino a quel momento. Più il testo cresce, più il processo diventa lento e faticoso. La cache KV funziona come prendere appunti su un foglio a parte, così da tenere sempre a mente cosa è stato scritto. Il risultato è una velocità enormemente superiore.
L’approccio tradizionale, detto ad attenzione quadratica, obbliga il modello ad annotare ogni frase letta su un blocco di foglietti adesivi. Più cresce il contesto, più la cache si gonfia e più tutto rallenta. Kimi K3 usa invece un meccanismo ibrido ad attenzione lineare, con stati ricorrenti e stati di interleaving combinati in un rapporto di 3 a 1. In pratica ci sono tre assistenti che tengono un riassunto essenziale su un solo foglietto, e la dimensione di quel riassunto non aumenta mai perché le informazioni vecchie vengono cancellate.
C’è un problema, ovviamente. Questi assistenti rischiano di perdere qualche dettaglio minuscolo, tipo un numero di telefono nascosto a pagina 100. Ci pensa il quarto assistente, lo stato di Hybrid Interleaving, che scatta una fotografia dell’intero contesto e la comprime, come trasformare un film in 4K in un file zip minuscolo. Quando serve, il file viene riaperto per un attimo, controllato e poi ricompresso.
La reazione di OpenAI e la mossa di Anthropic
Il punto è che queste innovazioni rappresentano una minaccia diretta per OpenAI e Anthropic. E qui arriva la parte politica della vicenda. Dean W. Ball, responsabile degli scenari futuri di OpenAI, ha pubblicato un post su X definendo tutti i modelli cinesi open source come “decelerazionisti” sul fronte degli investimenti in capitale. Poi il passaggio più discusso: secondo lui, l’esito probabile di un mondo dominato dai modelli a pesi aperti sarebbe un vero e proprio comunismo dell’IA, esattamente ciò che la Cina propone. In quello scenario l’intelligenza artificiale non sarebbe più un prodotto di mercato, ma un bene pubblico fornito dallo Stato.
Va detto che non tutta l’efficienza di Kimi K3 si traduce in un risparmio di memoria. Mentre la KDA rende il modello molto snello, l’uso complessivo della HBM non dovrebbe calare, per via di un’altra tecnica di ottimizzazione chiamata WideEP, che distribuisce gli 896 esperti su molte GPU così da ridurre il carico di memoria per singolo token.
Nel frattempo Anthropic ha risposto sul campo. Ora che Kimi K3 ha messo in ombra Opus, l’azienda ha deciso di mantenere l’accesso al suo modello di punta, Fable 5, su tutti i principali piani di abbonamento.