In questo articolo Indice dei contenuti 3 sezioni
Sei aziende cinesi avrebbero copiato sistematicamente i modelli AI statunitensi attraverso una pratica che ha un nome tecnico preciso, la distillazione, e che secondo tre agenzie federali americane va avanti da quasi due anni su scala industriale. A mettere nero su bianco la faccenda è stata prima Anthropic, che ha descritto l’uso illecito dei suoi modelli Claude da parte di sette società cinesi, poi National Security Agency, Cybersecurity and Infrastructure Security Agency e Federal Bureau of Investigation con un comunicato congiunto che conferma tutto.
La distillazione, per capirci, non è hacking nel senso classico del termine. È una tecnica legittima in sé, usata da chiunque lavori in questo campo, che consiste nello sfruttare gli output di un modello grande per addestrarne uno più piccolo. Il punto è chi la fa, su quali modelli e con quali metodi. Perché quando l’operazione riguarda miliardi di token estratti da Claude, GPT, Gemini e Grok senza alcuna autorizzazione, il discorso cambia parecchio.
Chi sono le aziende finite nel mirino delle agenzie americane
I nomi fatti da NSA, CISA e FBI sono DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun e Z.ai. L’attività sarebbe partita dalla fine del 2024 e, stando alle tre agenzie, gode del supporto del governo di Pechino. L’obiettivo dichiarato nel documento è duplice, ridurre il divario tecnologico e prestazionale rispetto ai laboratori americani e farlo risparmiando cifre enormi, visto che addestrare un modello da zero costa infinitamente di più che imparare dalle risposte di qualcun altro.
Qui però nasce un problema logistico non banale. I modelli AI statunitensi non sono disponibili in Cina, quindi bisogna aggirare le restrizioni. E il modo c’è, anzi ce ne sono diversi. Uno dei più diffusi passa da un mercato grigio di proxy API, vere e proprie stazioni di trasferimento che rivendono l’accesso a un prezzo inferiore a quello ufficiale. L’altro consiste nel creare migliaia di account ripulendo ogni traccia del paese di provenienza, quindi indirizzo IP mascherato, metadati alterati, identificatori rimossi. Nulla di improvvisato, insomma.
Jailbreak e catena di pensiero, il vero obiettivo
La parte più interessante del rapporto riguarda il come. Secondo le agenzie, la distillazione viene portata avanti con infrastrutture sofisticate che permettono anche di eseguire jailbreak sui modelli, cioè di forzarli a comportarsi al di fuori dei limiti imposti dagli sviluppatori. Lo scopo non è ottenere una risposta scomoda tanto per fare, ma arrivare alla catena di pensiero, ovvero al meccanismo di ragionamento interno. È quello il vero tesoro, il modo in cui un modello arriva a una conclusione passo dopo passo. Riprodurre quella logica significa accorciare drasticamente la strada. Il consiglio delle tre agenzie alle aziende americane è piuttosto asciutto, migliorare i sistemi di rilevamento e rafforzare le protezioni. Nessuna misura punitiva annunciata, almeno per ora.
La replica di Pechino e la posizione di Y Combinator
Un portavoce del Ministero degli Affari Esteri cinese ha respinto tutto, definendo le accuse false e prive di fondamento. E ha aggiunto un dettaglio che serve a ribaltare il tavolo, sostenendo che anche alcune aziende statunitensi effettuano la distillazione dei modelli cinesi. Accusa speculare, come spesso accade in questo tipo di scambi.
Dal fronte americano, poi, non tutti la vedono come un’emergenza. Garry Tan, amministratore delegato di Y Combinator, ritiene che il governo non dovrebbe intervenire affatto. La sua posizione è che ci siano priorità ben più urgenti, a partire dall’incentivare la diffusione dei modelli open source e dal risolvere i problemi di sicurezza che restano aperti. Un problema secondario, in sostanza, rispetto a partite che valgono molto di più.
