In questo articolo Indice dei contenuti 2 sezioni
La collaborazione tra Qualcomm e Amazon Web Services sui chip AI personalizzati è stata annunciata nelle scorse ore e ha il profilo dell’accordo pluriennale, quelli che non si esauriscono con un singolo prodotto ma disegnano una traiettoria comune. Al centro ci sono due filoni che viaggiano paralleli, lo sviluppo di processori dedicati all’intelligenza artificiale e nuove tecnologie di connettività ad alta velocità pensate per le reti dei data center. Per Qualcomm significa portarsi a casa un cliente di peso proprio mentre prova a costruire una presenza credibile nel mondo delle infrastrutture per l’AI, terreno finora presidiato da altri.
L’intesa arriva poco dopo la presentazione della piattaforma Dragonfly, che raccoglie il processore Dragonfly C1000, l’acceleratore AI300 e un pacchetto di tecnologie dedicate al networking. Non un annuncio isolato, quindi, ma il tassello che dà senso commerciale a una linea di prodotti appena svelata. Perché una piattaforma per data center, per quanto ben ingegnerizzata, vale poco finché qualcuno non la mette davvero in produzione su larga scala.
Il nodo dell’inferenza e i data center di AWS
I chip sviluppati insieme ad Amazon guarderanno soprattutto ai carichi di lavoro legati all’inferenza, cioè la fase in cui un modello già addestrato viene effettivamente usato per rispondere alle richieste degli utenti. È la parte meno spettacolare del ciclo di vita dell’intelligenza artificiale, quella che non fa titoli, ma anche quella che si moltiplica in modo esponenziale man mano che i servizi basati sull’AI entrano nella routine quotidiana di milioni di persone. Ogni domanda posta a un assistente, ogni immagine generata, ogni riassunto automatico passa da lì.
Il ragionamento di fondo è abbastanza lineare. L’addestramento dei modelli richiede potenza bruta concentrata in finestre di tempo definite, l’inferenza richiede efficienza continua e costi contenuti per singola operazione. Con l’espansione dei data center di AWS quel segmento è destinato a crescere parecchio, e avere silicio progettato su misura per quel compito specifico può fare la differenza sui conti a fine anno.
Fibra ottica, SerDes e il collo di bottiglia della rete
L’altro capitolo dell’accordo riguarda la connettività ottica. Le due aziende lavoreranno su soluzioni destinate alle reti interne dei data center Amazon, partendo da velocità fino a 1,6 Tbps con l’obiettivo dichiarato di spingersi su generazioni successive ancora più rapide. Alla base ci sono le tecnologie SerDes e i DSP ottici sviluppati da Qualcomm, componenti che si occupano di trasformare e trasportare i dati tra i vari nodi senza perdere pezzi per strada.
Può sembrare un dettaglio da ingegneri, e in parte lo è, ma il networking è diventato uno dei fattori che decidono le prestazioni reali dei grandi cluster dedicati all’intelligenza artificiale. Quando migliaia di GPU e acceleratori devono scambiarsi quantità enormi di dati mantenendo latenze ridottissime, la rete smette di essere un accessorio e diventa il vero limite del sistema. Un collegamento lento vanifica la potenza dei chip che collega, esattamente come un’autostrada a una corsia rende inutile avere una macchina veloce.
Da qui l’attenzione crescente verso collegamenti più rapidi ed efficienti, capaci di incidere direttamente sul rendimento complessivo dell’infrastruttura. Per Amazon significa poter contare su una filiera più controllata, per Qualcomm vuol dire mettere alla prova sul campo una piattaforma appena nata, con un partner che gestisce alcune delle infrastrutture cloud più estese al mondo.
