Open Neural Network Exchange, Onnx, è un formato open per i modelli di deep learning e di machine learning tradizionale, che Microsoft ha sviluppato insieme a Facebook e Aws.
Onnx Runtime è un motore di inferenza ad alte prestazioni per modelli di machine learning nel formato ONNX, che nel 2018 Microsoft ha rilasciato come open source su GitHub.
Il progetto open source ONNX Runtime è focalizzato sull’accelerazione del machine learning su una vasta gamma di framework, sistemi operativi e piattaforme hardware.
Microsoft, sul suo blog dedicato all’open source, ha annunciato che Onnx Runtime ora supporta la creazione di app mobili in C# con Xamarin. Il supporto per Android e iOS è incluso nel pacchetto NuGet 1.10 di Onnx Runtime.
Questo permette agli sviluppatori C# di costruire applicazioni di intelligenza artificiale per Android e iOS per eseguire modelli Onnx su dispositivi mobili con Onnx Runtime.
La nuova release 1.10 abilita dunque la possibilità per gli sviluppatori di realizzare applicazioni multipiattaforma che hanno come target le piattaforme Android e iOS, usando Xamarin.Forms.
Il package supporta l’esecuzione di modelli ONNX sulla CPU del dispositivo utilizzando il CPU Execution Provider di default. Alcuni smartphone contengono hardware specializzato (NPU) per un’efficiente esecuzione del machine learning tramite le interfacce NNAPI (su Android) e CoreML (su iOS).
Con Onnx Runtime Mobile, gli sviluppatori possono scegliere di utilizzare gli Execution Provider NNAPI, per le app Android, o CoreML, per quelle iOS, che sono disponibili nel package.
Gli sviluppatori – ha sottolineato Microsoft – dovrebbero fare dei test per confrontare le prestazioni tra le varie opzioni, per determinare la soluzione ottimale per l’esecuzione dell’applicazione e del modello.
Xamarin – lo ricordiamo – è la app platform app open source che serve per costruire app iOS e Android moderne e performanti con C# e .NET.
Con il supporto per Android e iOS nel feed NuGet, ora gli sviluppatori possono aggiungere funzionalità di intelligenza artificiale nelle loro applicazioni, con l’ausilio di Onnx Runtime.
