Run:AI, startup israeliana che fornisce software innovativo di orchestrazione e virtualizzazione per l’intelligenza artificiale, ha annunciato di aver raccolto un ulteriore finanziamento di serie B di 30 milioni di dollari che verrà usato per espandere rapidamente l’organico.
La crescita dell’intelligenza artificiale negli ultimi anni, ha spiegato il team di Run:AI, è direttamente collegata alla disponibilità di una elevata potenza di calcolo. Man mano che le sfide tecnologiche crescono in complessità, i modelli di intelligenza artificiale in esecuzione su enormi serie di dati richiedono più potenza di calcolo per il training.
La forma più avanzata di intelligenza artificiale, il deep learning, utilizza tipicamente unità di elaborazione grafica, le GPU, o altro hardware specializzato per addestrare i modelli di apprendimento profondo.
Run:AI cita uno studio di OpenAI secondo cui la domanda di calcolo da parte delle reti di deep learning è raddoppiata ogni 3,5 mesi dal 2012. Per supportare questa domanda, vengono distribuiti enormi cluster di intelligenza artificiale on-premise, in ambienti cloud pubblici e anche sull’edge.
A causa di questa domanda in rapido aumento, le inefficienze dell’infrastruttura di computing secondo Run:AI stanno rallentando la capacità delle aziende di portare soluzioni pratiche di intelligenza artificiale sul mercato.
Quando le GPU sono assegnate staticamente ai ricercatori, sottolinea il team di Run:AI, anche se la domanda di GPU cresce, le risorse rimangono inattive. Inoltre, la maggior parte dell’intelligenza artificiale viene sviluppata su infrastrutture cloud-native, che sono state originariamente costruite per supportare l’esecuzione dei carichi di lavoro sulle CPU, non sulle GPU, e mancano di molte funzionalità di scalabilità del calcolo necessarie all’intelligenza artificiale.
A peggiorare le cose, sottolinea ancora Run:AI, le GPU non sono virtualizzate e non possono essere condivise tra più applicazioni o utenti. Questo si traduce in un utilizzo tipico del 25% nei cluster di intelligenza artificiale e nella bassa produttività dei team di data science.
Run:AI vuole dare delle risposte a queste sfide. La startup israeliana ha sviluppato un layer software di orchestrazione e virtualizzazione su misura per le esigenze uniche dei carichi di lavoro di intelligenza artificiale in esecuzione su GPU e chipset simili.
La piattaforma è la prima a portare il software di virtualizzazione a livello di OS ai carichi di lavoro in esecuzione sulle GPU, un approccio ispirato alla virtualizzazione e alla gestione delle CPU che ha rivoluzionato l’informatica negli anni ’90.
La piattaforma container basata su Kubernetes di Run:AI per i cloud di intelligenza artificiale raggruppa e condivide in modo efficiente le GPU assegnando automaticamente la quantità necessaria di risorse – da frazioni di GPU, a più GPU, a più nodi di GPU – in modo che i ricercatori possano ricevere dinamicamente la potenza di calcolo di cui hanno bisogno.
Le imprese e i grandi centri di ricerca stanno utilizzando Run:AI per risolvere i loro problemi di ottimizzazione delle risorse sia per il training che per l’inferenza; un migliore utilizzo della loro infrastruttura di calcolo permette loro di portare le soluzioni di intelligenza artificiale sul mercato in modo più rapido.
Dal suo lancio, nel 2019, Run:AI ha costruito una base di clienti globale, in particolare nei settori automobilistico, finanziario, della difesa, manifatturiero e sanitario. I clienti che utilizzano Run:AI, secondo i dati forniti dall’azienda, registrano un aumento dell’utilizzo della GPU dal 25 al 75 percento in media; un cliente ha visto aumentare la velocità dei propri esperimenti del 3000 percento dopo aver installato la piattaforma di Run:AI.
