NVIDIA ha presentato Project DIGITS, un supercomputer personale per l’AI che offre a ricercatori di intelligenza artificiale, data scientist e studenti di tutto il mondo l’accesso alla potenza della piattaforma NVIDIA Grace Blackwell.
Project DIGITS è dotato del nuovo Superchip NVIDIA GB10 Grace Blackwell, che offre un petaflop di prestazioni di AI computing per la prototipazione, il fine tuning e l’esecuzione di modelli di AI di grandi dimensioni.
Con Project DIGITS, gli utenti possono sviluppare ed eseguire l’inferenza sui modelli utilizzando il proprio sistema desktop, per poi distribuire senza problemi i modelli su infrastrutture cloud o data center accelerati.
“L’IA diventerà mainstream in ogni applicazione per ogni settore. Con Project DIGITS, il Superchip Grace Blackwell arriva a milioni di sviluppatori”, ha dichiarato Jensen Huang, fondatore e CEO di NVIDIA. “Mettere un supercomputer AI sulle scrivanie di ogni scienziato dei dati, ricercatore di IA e studente permette loro di impegnarsi e dare forma all’era dell’IA”.
Il Superchip GB10 è un system-on-a-chip (SoC) basato sull’architettura NVIDIA Grace Blackwell e offre fino a 1 petaflop di prestazioni AI con precisione FP4.
GB10 è dotato di una GPU NVIDIA Blackwell con core CUDA di ultima generazione e Tensor Core di quinta generazione, collegata tramite interconnessione chip-to-chip NVLink-C2C a una CPU NVIDIA Grace ad alte prestazioni, che include 20 core ad alta efficienza energetica costruiti con l’architettura Arm. MediaTek, leader di mercato nei progetti di SoC basati su Arm, ha collaborato alla progettazione di GB10, contribuendo alla sua migliore efficienza energetica, alle sue prestazioni e alla sua connettività.
Il Superchip GB10 – dichiara NVIDIA – consente a Project DIGITS di fornire prestazioni potenti utilizzando solo una presa elettrica standard. Ogni Project DIGITS dispone di 128 GB di memoria unificata e coerente e fino a 4 TB di storage NVMe. Con il supercomputer, gli sviluppatori possono eseguire modelli linguistici di grandi dimensioni fino a 200 miliardi di parametri per potenziare l’innovazione dell’intelligenza artificiale. Inoltre, grazie alla rete NVIDIA ConnectX, è possibile collegare due supercomputer Project DIGITS AI per eseguire modelli fino a 405 miliardi di parametri.
Grazie all’architettura Grace Blackwell, le aziende e i ricercatori possono prototipare, personalizzare e testare i modelli sui sistemi locali Project DIGITS che eseguono il sistema operativo NVIDIA DGX basato su Linux, per poi distribuirli senza problemi su NVIDIA DGX Cloud, istanze cloud accelerate o infrastrutture di data center.
Ciò consente agli sviluppatori di prototipare l’intelligenza artificiale su Project DIGITS e poi di scalare su infrastrutture cloud o data center, utilizzando la stessa architettura Grace Blackwell e la piattaforma software NVIDIA AI Enterprise.
Gli utenti di Project DIGITS possono accedere a un’ampia libreria di software NVIDIA AI per la sperimentazione e la prototipazione, che comprende kit di sviluppo software, strumenti di orchestrazione, framework e modelli disponibili nel catalogo NVIDIA NGC e sul portale NVIDIA Developer. Gli sviluppatori possono perfezionare i modelli con il framework NVIDIA NeMo, accelerare la scienza dei dati con le librerie NVIDIA RAPIDS ed eseguire framework comuni come PyTorch, Python e Jupyter notebook.
Per realizzare applicazioni di IA agenziali, gli utenti possono anche sfruttare NVIDIA Blueprints e i microservizi NVIDIA NIM, disponibili per la ricerca, lo sviluppo e il testing tramite l’NVIDIA Developer Program. Quando le applicazioni di intelligenza artificiale sono pronte per passare dalla sperimentazione agli ambienti di produzione, la licenza NVIDIA AI Enterprise offre sicurezza, supporto e release di prodotto di livello enterprise del software NVIDIA AI.
Project DIGITS sarà disponibile a maggio presso NVIDIA e i principali partner, a partire da 3.000 dollari.
Ulteriori informazioni sono disponibili sul sito di NVIDIA.
