NVIDIA ha annunciato che Dell Technologies, Hewlett Packard Enterprise e Lenovo saranno le prime aziende a integrare le tecnologie di networking Ethernet NVIDIA Spectrum-X per l’intelligenza artificiale nelle proprie lineup di server, per aiutare i clienti enterprise a velocizzare i carichi di lavoro dell’AI generativa.
Realizzato appositamente per l’AI generativa, Spectrum-X offre alle aziende una nuova classe di networking Ethernet in grado di raggiungere prestazioni di rete 1,6 volte superiori per la comunicazione AI rispetto alle offerte Ethernet tradizionali, sottolinea NVIDIA.
I nuovi sistemi provenienti da tre dei principali produttori di sistemi combinano Spectrum-X con le GPU NVIDIA Tensor Core, il software NVIDIA AI Enterprise e il software NVIDIA AI Workbench per fornire alle aziende gli elementi di base per trasformare le loro attività con l’AI generativa.
“L’IA generativa e l’accelerated computing stanno guidando una transizione generazionale mentre le aziende aggiornano i loro data center per servire questi carichi di lavoro“, ha dichiarato Jensen Huang, fondatore e CEO di NVIDIA. “L’accelerated networking è il catalizzatore di una nuova ondata di sistemi dei principali produttori di server partner di NVIDIA per accelerare il passaggio all’era dell’AI generativa“.
“L’accelerated computing and networking è fondamentale per la creazione di sistemi in grado di soddisfare le esigenze dei modelli linguistici di grandi dimensioni e delle applicazioni di AI generativa“, ha dichiarato Michael Dell, presidente e CEO di Dell Technologies. “Grazie alla nostra collaborazione, Dell Technologies e NVIDIA offrono ai clienti l’infrastruttura e il software necessari per estrarre in modo rapido e sicuro l’intelligenza dai loro dati“.
“L’AI generativa sarà senza dubbio un fattore di innovazione in diversi settori“, ha dichiarato Antonio Neri, presidente e CEO di HPE. “Queste nuove e potenti applicazioni richiederanno un’architettura fondamentalmente diversa per supportare una varietà di carichi di lavoro dinamici. Per consentire ai clienti di sfruttare appieno il potenziale dell’AI generativa, HPE sta collaborando con NVIDIA per realizzare sistemi con la potenza, l’efficienza e la scalabilità necessarie per supportare queste applicazioni“.
“L’AI generativa può dare vita a trasformazioni senza precedenti, ma pone requisiti senza precedenti alle infrastrutture aziendali“, ha dichiarato Yuanqing Yang, presidente e CEO di Lenovo. “Lavorando a stretto contatto con NVIDIA, Lenovo sta realizzando sistemi efficienti e accelerati con il networking, il computing e il software necessari per alimentare le moderne applicazioni di AI“.
Networking creato appositamente per accelerare l’AI
Per ottenere il massimo dell’efficienza dei carichi di lavoro AI, spiega lo specialista dell’AI, Spectrum-X combina le prestazioni estreme dello switch Ethernet Spectrum-4, il SuperNIC NVIDIA BlueField-3, una nuova classe di acceleratori di rete per la sovralimentazione dei carichi di lavoro AI su scala hyperscale, nonché il software di accelerazione. Spectrum-X integra le DPU BlueField-3, che il produttore descrive come la piattaforma di computing infrastrutturale più avanzata al mondo.
Spectrum-4 è il primo switch Ethernet al mondo da 51 TB/sec per l’AI, che fornisce un throughput di dati altamente efficace su scala e sotto carico, riducendo al minimo la congestione della rete per i carichi di lavoro cloud multi-tenant e AI. La sua tecnologia di routing intelligente e ottimizzata consente il massimo utilizzo dell’infrastruttura di rete in qualsiasi momento.
I SuperNIC BlueField-3 sono progettati per l’elaborazione in parallelo ad alta intensità di network e offrono connettività di rete RDMA over Converged Ethernet (RoCE) fino a 400 Gb/s tra i server GPU e aumentano le prestazioni del traffico di training e inferenza dell’intelligenza artificiale sulla rete est-ovest all’interno del cluster. Inoltre, abilitano ambienti di data center multi-tenant sicuri, garantendo prestazioni deterministiche e isolate tra i lavori dei tenant. Grazie a un fattore di forma PCIe a basso consumo, a metà altezza e a metà lunghezza, i SuperNIC BlueField-3 sono ideali per i server di classe enterprise.
Il software di accelerazione che alimenta Spectrum-X comprende kit di sviluppo software NVIDIA come Cumulus Linux, Pure SONiC e NetQ – che insieme garantiscono le prestazioni avanzate della piattaforma – e il framework software NVIDIA DOCA, che è il cuore di BlueField.
NVIDIA AI Enterprise fornisce framework, modelli preaddestrati e strumenti di sviluppo per un’AI di produzione sicura, stabile e supportata. NVIDIA AI Workbench consente agli sviluppatori di creare, testare e personalizzare rapidamente i modelli di AI generativa pre-addestrati su un pc o una workstation, per poi scalarli praticamente su qualsiasi data center o cloud.
Spectrum-X abilita anche il supercomputer NVIDIA Israel-1, un’architettura di riferimento per i sistemi AI di prossima generazione. Israel-1 è frutto di una collaborazione con Dell Technologies e utilizza server Dell PowerEdge XE9680 alimentati dalla piattaforma a otto GPU NVIDIA HGX H100 e da DPU e SuperNIC BlueField-3 con switch Spectrum-4.
I nuovi sistemi di Dell, HPE e Lenovo con lo stack completo di NVIDIA AI sono attesi per il primo trimestre del prossimo anno.
