La ricerca State of AI Infrastructure Survey commissionata da Run:AI ha cercato di scoprire perché, nonostante i massicci investimenti, meno della metà dei modelli di intelligenza artificiale entra in produzione.
Per una quota di ben il 77%, infatti, gli intervistati al sondaggio hanno affermato che la maggior parte dei loro modelli di intelligenza artificiale non entra mai in uso.
E per un quinto di coloro che hanno risposto, quel numero scende ancora più in basso, con solo il 10% dei modelli che raggiungono la produzione.
I risultati sono in parte spiegati da altri dettagli emersi dal report, ha messo in evidenza Run:AI. Ad esempio, solamente il 17% delle aziende di intelligenza artificiale è in grado di raggiungere un alto utilizzo delle proprie costose risorse dedicate.
Il 22% di coloro che costruiscono soluzioni d’intelligenza artificiale ha detto che la propria infrastruttura rimane per lo più inattiva, e più di un terzo degli intervistati deve richiedere manualmente l’accesso alle risorse GPU ed è bloccato con allocazioni statiche di acceleratori hardware.
Investimenti non sfruttati e le sfide
Tutto questo – ha sottolineato Run:AI – nonostante i significativi investimenti in intelligenza artificiale.
Il 38% degli intervistati ha detto che il budget annuale della propria azienda per la sola infrastruttura di intelligenza artificiale – compresi hardware, software e tariffe cloud –, è superiore a un milione di dollari.
Per il 15%, la spesa è di più di 10 milioni di dollari all’anno per l’infrastruttura e il 74% degli intervistati ha detto che la propria azienda stava pianificando di aumentare la capacità della GPU o la spesa per l’infrastruttura per l’intelligenza artificiale nel prossimo futuro.
La più grande sfida per i lavoratori di questo campo nel sondaggio commissionato da Run:AI è stata identificata nei dati.
Il 61% degli intervistati ha detto che questioni come la raccolta, la pulizia e la governance dei dati hanno causato problemi.
Il 42% ha evidenziato problemi con l’infrastruttura per l’intelligenza artificiale nella propria azienda e la capacità di calcolo.
Questi due estremi del processo di sviluppo dell’intelligenza artificiale – dati e infrastrutture – sono stati citati più spesso dei problemi relativi allo sviluppo del modello e al tempo di formazione, che solo il 24% degli intervistati ha menzionato come una sfida.
Il ruolo del cloud nell’intelligenza artificiale
Il sondaggio – prosegue l’analisi di Run:AI – ha anche evidenziato il ruolo del cloud, con il 53% degli intervistati che ha detto che le proprie applicazioni e infrastrutture per l’intelligenza artificiale sono nel cloud. Mentre il 34% sta pianificando di passare al cloud nei prossimi anni.
I container sono diventati una scelta standard dell’infrastruttura, per l’esecuzione dei carichi di lavoro di intelligenza artificiale, con l’80% degli intervistati che li utilizza per alcuni workload e il 49% per la maggior parte o per tutto il proprio lavoro.
Per l’orchestrazione, Kubernetes è in cima con il 42% e un altro 16% che sta progettando di adottarlo. La scelta successiva è RedHat Openshift, con il 13% che lo usa e il 6% interessato.
Run:AI ha spiegato che il sondaggio è stato condotto su 211 tra scienziati di dati, professionisti di intelligenza artificiale, machine learning e IT, e architetti di sistema, provenienti da dieci Paesi. E che ha coinvolto principalmente esperti di aziende con oltre 5.000 dipendenti, anche se ha incluso intervistati da startup fino a grandi multinazionali.
Il sondaggio, condotto dalla società di ricerca indipendente Global Surveyz, è stato effettuato nel luglio 2021. Run:AI prevede inoltre di rendere questo un sondaggio annuale, per monitorare le tendenze nelle infrastrutture per l’intelligenza artificiale.
Il sondaggio completo può essere scaricato dal sito di Run:AI.
