Google Cloud ha annunciato le nuove VM di Cloud TPU (Tensor Processing Unit), che rendono più facile utilizzare l’hardware TPU fornendo un accesso diretto alle macchine host.
La nuova offerta fornisce, ha sottolineato Google Cloud, un’esperienza utente nuova e migliorata per sviluppare e distribuire TensorFlow, PyTorch e JAX su Cloud TPU.
Invece di accedere alle Cloud TPU in remoto attraverso la rete, le VM di Cloud TPU permettono di impostare il proprio ambiente di sviluppo interattivo su ogni macchina host TPU.
Ora è possibile scrivere ed eseguire il debug di un modello di machine learning, riga per riga, usando una singola VM TPU, per poi scalarlo su una slice di Pod di Cloud TPU per sfruttare la sua interconnessione super-veloce.
Lo sviluppatore ha accesso come root a ogni VM TPU che crea, quindi può installare ed eseguire qualsiasi codice che desidera in un loop stretto e integrato con gli acceleratori TPU. Può anche usare lo storage locale, eseguire codice personalizzato nelle pipeline di input e integrare più facilmente le TPU Cloud nei propri flussi di lavoro di ricerca e produzione.
Oltre alle integrazioni di Cloud TPU con TensorFlow, PyTorch, e JAX, è anche possibile scrivere le proprie integrazioni tramite una nuova libreria condivisa libtpu sulla VM.
Le VM di Cloud TPU vengono eseguite sulle macchine host TPU che sono direttamente collegate agli acceleratori TPU.
Questa nuova architettura di sistema Cloud TPU è più semplice e flessibile. Oltre ai grandi vantaggi in termini di usabilità, ha evidenziato Google Cloud, si possono anche ottenere incrementi di prestazioni, perché il codice non ha più bisogno di fare viaggi di andata e ritorno attraverso la rete del datacenter per raggiungere le TPU.
Inoltre, potrebbero verificarsi anche risparmi sui costi. Se prima l’azienda aveva bisogno di una flotta di potenti VM di Compute Engine per fornire i dati agli host remoti in una slice di Pod di Cloud TPU, ora si può eseguire l’elaborazione dei dati direttamente sugli host di Cloud TPU ed eliminare la necessità di ulteriori VM di Compute Engine.
Le VM di Cloud TPU sono ora disponibili in anteprima nelle region us-central1 e europe-west4.
