In questo articolo Indice dei contenuti 3 sezioni
Portare modelli AI sempre più complessi direttamente sulla scrivania significa poter contare su maggiore controllo sull’infrastruttura e ridurre la dipendenza dai servizi cloud. È proprio su questo scenario che GIGABYTE introduce AI TOP 100 B850, un desktop progettato per offrire capacità di calcolo di classe workstation per attività di intelligenza artificiale eseguite localmente. Il sistema si rivolge ad aziende, sviluppatori e ricercatori che hanno bisogno di gestire carichi AI avanzati on-premise, dal fine-tuning dei Large Language Model fino all’AI generativa, passando per la ricerca nel deep learning e i workflow basati su agenti. La piattaforma combina un processore AMD Ryzen 9 9950X con una dotazione di memoria e storage pensata per lavorare con dataset di grandi dimensioni, lasciando inoltre spazio a successive espansioni hardware.
Due configurazioni GPU per esigenze differenti
La componente grafica rappresenta uno degli elementi centrali del sistema e GIGABYTE propone due configurazioni differenti, pensate per scenari di utilizzo distinti. La prima utilizza una NVIDIA GeForce RTX 5090 e punta sulle prestazioni accelerate CUDA per l’esecuzione locale di LLM, applicazioni di AI generativa e workflow agentici. Secondo i test interni di GIGABYTE, questa configurazione può raggiungere una velocità di generazione di 64,9 token al secondo utilizzando un modello da 32 miliardi di parametri. L’altra variante sfrutta invece due AMD Radeon AI PRO R9700, mettendo a disposizione complessivamente 64 GB di VRAM. La maggiore capacità di memoria permette di affrontare modelli più grandi e attività particolarmente intensive dal punto di vista della memoria, con supporto all’inferenza di modelli fino a 235 miliardi di parametri e al fine-tuning di modelli fino a 110 miliardi di parametri.
Alla base di entrambe le configurazioni c’è un AMD Ryzen 9 9950X con 16 core e 32 thread, affiancato da 128 GB di memoria DDR5 e da un SSD PCIe Gen4 da 2 TB. La piattaforma utilizza inoltre componenti desktop standard, una scelta che permette di mantenere una maggiore flessibilità in vista degli aggiornamenti futuri.I due slot PCIe 5.0 consentono di adottare GPU ad alte prestazioni, mentre memoria e storage espandibili permettono di aumentare progressivamente le risorse disponibili seguendo l’evoluzione dei modelli e dei dataset.
Raffreddamento e connettività per carichi prolungati
L’esecuzione continua di workload AI richiede una piattaforma in grado di mantenere prestazioni stabili anche durante sessioni di calcolo prolungate. Per questo AI TOP 100 B850 integra una scheda madre AI TOP progettata per il sistema, un raffreddamento a liquido per la CPU e un’impostazione interna orientata a favorire un elevato flusso d’aria. Il sistema di raffreddamento è pensato per gestire il calore prodotto da processore, GPU e componenti principali, mentre l’alimentazione è affidata a un modello da 1600 W con certificazione 80 PLUS Platinum. La potenza disponibile lascia inoltre margine per eventuali espansioni hardware successive. Sul fronte della connettività, il desktop dispone di due porte LAN 10GbE, utili per trasferire grandi dataset, accedere a sistemi di storage condivisi e scambiare rapidamente dati con altre macchine. È presente anche il Wi-Fi 7, insieme a una dotazione di porte ad alta velocità che comprende USB Type-C da 20 Gbps.
Il software accompagna lo sviluppo dei modelli
L’esperienza non si limita alla componente hardware. GIGABYTE integra infatti AI TOP Utility, uno strumento pensato per riunire in un’unica interfaccia diverse funzioni dedicate ai workflow AI locali. Il software comprende il monitoraggio del sistema in tempo reale, funzioni di offloading della memoria e strumenti destinati alla creazione di dataset. L’obiettivo è semplificare le attività legate al training e al fine-tuning di modelli AI testuali e multimodali direttamente sull’infrastruttura locale. Con AI TOP 100 B850, GIGABYTE punta quindi a fornire una piattaforma desktop capace di accompagnare lo sviluppo di applicazioni AI anche quando dimensioni dei modelli e requisiti di calcolo aumentano, mantenendo l’elaborazione all’interno della propria infrastruttura.
Fonte: TecnoAndroid
