NVIDIA ha presentato un nuovo supercomputer di IA generativa compatto, che offre prestazioni superiori a un prezzo inferiore grazie a un aggiornamento software: il nuovo NVIDIA Jetson Orin Nano Super Developer Kit, che sta nel palmo di una mano, offre a tutti, dagli sviluppatori di IA commerciali agli hobbisti e agli studenti, maggiori capacità e prestazioni di AI generativa. Il prezzo è ora di 249 dollari (in Italia intorno ai 240 euro + Iva), da 499 dollari.
NVIDIA afferma che il nuovo Jetson Orin Nano Super offre un salto di 1,7 volte nelle prestazioni di inferenza dell’intelligenza artificiale generativa, un aumento del 70% delle prestazioni a 67 INT8 TOPS e un aumento del 50% della larghezza di banda della memoria a 102 GB/s rispetto al suo predecessore.
Che si tratti di creare chatbot LLM basati sulla retrieval-augmented generation, o che si tratti di costruire un agente AI visivo o di implementare robot basati sull’AI, Jetson Orin Nano Super è la soluzione ideale, assicura l’azienda.
Gli aggiornamenti software disponibili per il nuovo Jetson Orin Nano Super aumenteranno le prestazioni dell’AI generativa anche per chi possiede già il Jetson Orin Nano Developer Kit, sottolinea inoltre NVIDIA.
Jetson Orin Nano Super è adatto a chi è interessato a sviluppare competenze nell’IA generativa, nella robotica o nella computer vision. Poiché il mondo dell’intelligenza artificiale si sta spostando da modelli specifici per le attività a modelli foundation – mette in evidenza NVIDIA –, offre anche una piattaforma accessibile per trasformare le idee in realtà.
Le prestazioni potenziate di Jetson Orin Nano Super offrono vantaggi per tutti i modelli di AI generativa più diffusi e per la computer vision transformer-based.
Il developer kit è composto da un system-on-module (SoM) Jetson Orin Nano da 8 GB e da una reference carrier board, che offre una piattaforma ideale per la prototipazione di applicazioni di intelligenza artificiale.
Il SoM è dotato di una GPU con architettura NVIDIA Ampere con tensor core e di una CPU Arm a 6 core, che facilita la creazione di più pipeline di applicazioni AI simultanee e l’inferenza ad alte prestazioni. Può supportare fino a quattro videocamere, offrendo risoluzioni e frame rate più elevati rispetto alle versioni precedenti.
L’AI generativa si sta evolvendo rapidamente. NVIDIA Jetson AI lab offre un supporto immediato per i modelli all’avanguardia della community open-source e fornisce tutorial di facile utilizzo. Gli sviluppatori possono anche ottenere un ampio supporto dalla più ampia community Jetson e trarre ispirazione dai progetti creati dagli altri sviluppatori.
Jetson esegue il software NVIDIA AI, fra cui NVIDIA Isaac per la robotica, NVIDIA Metropolis per l’AI di visione e NVIDIA Holoscan per il processamento dei sensori. I tempi di sviluppo possono essere ridotti grazie a NVIDIA Omniverse Replicator per la generazione di dati sintetici e a NVIDIA TAO Toolkit per il fine-tuning di modelli di IA pre-addestrati dal catalogo NGC.
I partner dell’ecosistema Jetson offrono ulteriori software di IA e di sistema, strumenti per sviluppatori e sviluppo di software personalizzato. Possono inoltre fornire assistenza per videocamere e altri sensori, nonché schede di supporto e servizi di progettazione per soluzioni di prodotto.
Gli aggiornamenti software per aumentare le prestazioni dell’AI generativa di 1,7 volte saranno disponibili anche per le serie Jetson Orin NX e Orin Nano di systems on module, ha dichiarato NVIDIA.
Gli attuali possessori di Jetson Orin Nano Developer Kit possono aggiornare il JetPack SDK per sbloccare le prestazioni potenziate.
