In questo articolo Indice dei contenuti 3 sezioni
Sei aziende cinesi di intelligenza artificiale sono state indicate ufficialmente da Washington come responsabili di attacchi su scala industriale contro i modelli di frontiera americani, con l’obiettivo di estrarne le capacità e risparmiare, forse, miliardi in costi di sviluppo. I nomi messi nero su bianco sono DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun e Z.AI. L’accusa arriva da un comunicato congiunto firmato martedì da NSA, CISA e FBI, secondo cui l’attività andrebbe avanti almeno dalla fine del 2024 e sarebbe stata condotta “probabilmente” con la consapevolezza del governo cinese.
I modelli presi di mira sarebbero varianti di Claude, GPT, Gemini e Grok. La tesi delle agenzie è piuttosto diretta: chi conduce distillazione industriale contro i modelli statunitensi accorcia in modo sensibile i tempi di sviluppo e taglia le spese necessarie ad addestrare un modello di punta. Le capacità sottratte, si legge nel documento, costituiscono il nucleo della strategia cinese sull’AI, non un semplice complemento.
Account falsi, query a milioni e prompt che aprono la scatola nera
I metodi descritti sono due, in sostanza. Il primo passa dallo sfruttamento delle API di inferenza dei modelli AI attraverso l’acquisto in blocco di account falsi, non registrati a utenti reali, che poi sparano richieste altamente coordinate con testi identici o molto simili. Si parla di volumi che vanno da migliaia a milioni di query sullo stesso tema, con campagne che durano da giorni a mesi. Numeri, osservano le agenzie, ben oltre qualsiasi uso legittimo di ricerca o sviluppo.
Il secondo metodo è il prompt injection usato per aggirare le protezioni e costringere i modelli a mostrare il ragionamento nascosto, la cosiddetta catena di pensiero. DeepSeek, secondo il documento, avrebbe usato prompt che chiedevano al modello di immaginare e mettere per iscritto passaggio per passaggio la logica interna dietro una risposta già completata. Moonshot AI avrebbe fatto qualcosa di simile alternando modelli di diversi fornitori americani per estrarre tecniche di fine tuning, reinforcement learning, capacità matematiche e di ingegneria del software. Alibaba, MiniMax, StepFun e Z.AI si sarebbero concentrate invece su modelli specifici di Anthropic e OpenAI.
Le contromisure suggerite e il rischio per gli utenti legittimi
La parte più delicata riguarda i rimedi. Le agenzie chiedono alle aziende americane di rafforzare il monitoraggio di prompt, account e comportamenti anomali, di segnalare rapporti sospetti tra abbonamenti e utilizzo effettivo e di tenere d’occhio i nuovi profili che saturano subito i limiti massimi, indizio di deployment massivo con template già pronti. Vengono raccomandate anche verifiche d’identità più severe e un tracciamento più stretto degli utenti sotto licenza enterprise, cosa che apre più di un dubbio sulla privacy.
Poi c’è il suggerimento più curioso: peggiorare volutamente le risposte quando si sospetta un attacco. Presentare informazioni corrette con ragionamenti diversi, introdurre incoerenze stilistiche, ridurre la profondità del ragionamento, oppure dirottare in silenzio gli account sospetti su un modello inferiore, senza avvisare nessuno. Le stesse agenzie ammettono che la strada è tecnicamente complicata, perché le aziende cinesi dispongono di sistemi automatici di controllo qualità capaci di distinguere un normale disservizio da un degrado difensivo e di passare a un modello migliore entro 24 ore quando ne rilevano la disponibilità.
Il problema, riconosciuto anche nel documento, è che un utente comune finito per errore nella rete potrebbe ritrovarsi con risposte più corte o capacità ridotte senza saperne il motivo. Un precedente esiste già: l’anno scorso OpenAI ha corretto in fretta il proprio sistema di routing automatico dopo le proteste di chi si vedeva servito da varianti meno capaci a meno di scrivere esplicitamente frasi come “pensa meglio”.
Pechino respinge tutto
La risposta cinese è arrivata mercoledì con la portavoce del Ministero degli Esteri Mao Ning, secondo cui gli Stati Uniti dovrebbero lavorare sulla cooperazione anziché formulare accuse infondate, rivendicando i progressi cinesi come frutto dell’autosufficienza scientifica e tecnologica. Il portavoce dell’ambasciata Liu Chang aveva già parlato di una campagna di discredito basata sul pregiudizio. Il quotidiano del Partito ha rilanciato l’argomento opposto, cioè che molte aziende americane avrebbero usato modelli cinesi per la distillazione durante ricerca e addestramento. Nel frattempo il Ministero dell’Industria e dell’Informazione ha presentato un piano per ampliare in modo netto la capacità di calcolo intelligente del paese nei prossimi cinque anni.
