Oracle ha esteso la sua collaborazione con Nvidia, con l’esecuzione di applicazioni di Intelligenza Artificiale strategiche di Nvidia sul nuovo Oracle Cloud Infrastructure (OCI) Supercluster.
Nvidia ha scelto Oracle OCI come primo cloud hyperscaler per offrire Nvidia DGX Cloud, un servizio di supercomputing AI, su larghissima scala. Inoltre, Nvidia sta eseguendo su OCI anche Nvidia AI Foundations, i suoi nuovi servizi cloud di AI generativa, disponibili tramite DGX Cloud.
“OCI è la prima piattaforma a offrire un supercomputer AI su larga scala a migliaia di clienti in tutti i settori. Si tratta di una capacità fondamentale, dato che sempre più organizzazioni richiedono risorse di calcolo per i loro casi d’uso specifici di AI. Per supportare questa domanda, continuiamo a espandere la nostra collaborazione con Nvidia“, ha dichiarato Clay Magouyrk, Executive VP di Oracle Cloud Infrastructure.
“Le opportunità illimitate di innovazione guidata dall’intelligenza artificiale stanno contribuendo a trasformare praticamente ogni azienda. Grazie alla collaborazione di Nvidia con Oracle Cloud Infrastructure, oggi le straordinarie prestazioni di supercomputing della piattaforma di elaborazione accelerata di Nvidia sono alla portata di tutte le aziende“, ha dichiarato Manuvir Das, VP enterprise computing di Nvidia.
Il nuovo supercluster OCI al servizio dell’Intelligenza Artificiale
Nvidia DGX Cloud e i servizi Nvidia AI Foundations che vengono eseguiti su di esso sfruttano l’esclusivo Supercluster di OCI, certificato da Nvidia per garantire che soddisfi gli elevati standard di DGX Cloud.
Il Supercluster di OCI comprende OCI Compute Bare Metal, un cluster RoCE a bassissima latenza basato su networking Nvidia e una scelta di storage HPC. È stato implementato e convalidato da Nvidia per supportare migliaia di istanze OCI Compute Bare Metal, in grado di elaborare in modo efficiente applicazioni in parallelo massivo. Il networking di OCI Supercluster può ora scalare fino a 4.096 istanze OCI Compute Bare Metal con 32.768 GPU A100. Le istanze OCI Compute Bare Metal con GPU Nvidia H100 sono ora in disponibilità limitata.
Inoltre, Nvidia ha annunciato che Oracle sta aggiungendo le DPU Nvidia BlueField-3 al suo stack di networking.
Servizi di intelligenza artificiale generativa per la creazione di modelli aziendali personalizzati
I servizi di creazione di modelli di Nvidia AI Foundations spaziano dal linguaggio alle immagini, dal video al 3D, fino alla biologia. Le aziende possono utilizzare il servizio linguistico Nvidia NeMo e i servizi di immagini, video e 3D Nvidia Picasso per creare applicazioni AI generative proprietarie, specifiche per il proprio settore, per chat intelligenti e assistenza clienti, creazione di contenuti professionali, simulazione digitale e altro ancora. Per l’addestramento e l’inferenza di modelli di AI biologici, il servizio cloud Nvidia BioNeMo offre strumenti per personalizzare e distribuire rapidamente applicazioni di AI generativa.
Su OCI, i modelli personalizzati costruiti con Nvidia AI Foundations e famiglie di modelli come GPT-3 si avvalgono di OCI Supercluster, che include networking RDMA (Remote Direct Memory Access) appositamente costruito per offrire prestazioni prossime alla velocità di linea con latenza di microsecondi ed eliminare i problemi di blocco per i carichi di lavoro dipendenti dall’RDMA.
