In questo articolo Indice dei contenuti 2 sezioni
Una GeForce RTX 3090 Ti capace di guadagnare quasi l’80% di potenza di calcolo in mezza precisione senza toccare l’hardware. È il risultato ottenuto con GPU Unlock, un nuovo progetto open source che aggira le limitazioni software imposte da NVIDIA sulle schede grafiche consumer. Il salto dichiarato è notevole: le prestazioni BF16 della scheda passano da 87,5 a 157 TFLOPS, mentre nel motore di inferenza vLLM la velocità migliora fino al 36%. Tutto questo agendo esclusivamente sul driver, con un trucco tanto semplice nell’idea quanto efficace nei numeri.
Come funziona GPU Unlock e perché NVIDIA limita le GeForce
Il punto di partenza è una scelta commerciale ben nota agli appassionati. Secondo lo sviluppatore del progetto, conosciuto con il nome di “zagitta”, NVIDIA blocca alcune capacità di calcolo e le funzioni di GPU virtuale (vGPU) sulle schede GeForce, pur condividendo la stessa architettura delle soluzioni professionali per workstation. Queste funzionalità restano così un’esclusiva delle più costose Quadro, Tesla e della serie RTX A. In pratica il silicio è lo stesso, ma una parte del suo potenziale viene tenuta sotto chiave via software.
GPU Unlock segue una strada diversa rispetto alle classiche modifiche ai driver. Il tool applica una patch dinamica al modulo del driver NVIDIA all’interno del kernel Linux e intercetta le richieste relative al Device ID PCIe fisico della scheda. A quel punto sostituisce l’identificativo restituito con quello di una GPU professionale compatibile. Il driver viene così ingannato e riconosce una comune GeForce come se fosse una scheda pensata per il mondo pro, eliminando le restrizioni e sbloccando la potenza di calcolo aggiuntiva normalmente riservata alle workstation.
I numeri su RTX 3090 Ti, RTX 3080 e inferenza vLLM
Stando a quanto dichiarato dallo sviluppatore, i miglioramenti sono tutt’altro che marginali. Su RTX 3090 Ti, basata su architettura Ampere, le prestazioni BF16 salgono da 87,5 a ben 157 TFLOPS, con un incremento che sfiora l’80%. Anche il calcolo TF32 quasi raddoppia, passando da 42,6 a 82,6 TFLOPS. Un balzo del genere, ottenuto solo cambiando il modo in cui il driver identifica la scheda, rende bene l’idea di quanto margine resti normalmente inutilizzato.
Il beneficio non riguarda soltanto l’ammiraglia della generazione Ampere. Anche RTX 3080 sembra trarne vantaggio, con prestazioni FP16/BF16 che crescono da 65 a un valore compreso tra 110 e 113 TFLOPS. E lo fa mantenendo il proprio limite di potenza predefinito di 320W, quindi senza spingere sui consumi.
I test hanno toccato anche il terreno dell’intelligenza artificiale, in particolare il motore di inferenza vLLM. Qui lo sblocco porta un aumento tra il 33 e il 36% nella velocità di elaborazione Prefill con contesti lunghi e una riduzione del 25% della latenza Time To First Token, cioè il tempo necessario per ottenere la prima parte della risposta. Le prestazioni in fase di Decode, invece, restano sostanzialmente invariate. Il motivo è legato alla natura stessa della tecnica, che non interviene sui limiti di banda della memoria, il vero collo di bottiglia in quella fase.
Per ora c’è però un vincolo importante da considerare. GPU Unlock funziona esclusivamente su Linux ed è compatibile con le schede delle serie GeForce GTX 900, GTX 1000, RTX 20 e RTX 30. Le più recenti RTX 40 e RTX 50 non sono supportate.
Fonte: TecnoAndroid