Magic – azienda californiana che sta lavorando allo sviluppo di modelli di codice di frontiera su larga scala per costruire un assistente che sia un coworker e non solo un copilot – ha annunciato la collaborazione con Google Cloud.
La partnership con Google Cloud ha come obiettivo la realizzazione di due nuovi supercomputer basati su cloud che supporteranno la mission di Magic di sviluppare assistenti di codice con una finestra di contesto che raggiunga i 100 milioni di token (informazioni sufficienti per 10 anni di parlato umano, sottolinea Google).
Magic ha scelto Google Cloud come provider cloud preferito e la startup con sede a San Francisco utilizzerà l’architettura e il tooling dell’AI Hypercomputer di Google Cloud, che contribuiranno a costruire modelli AI di frontiera in grado di automatizzare aspetti dell’ingegneria del software.
Con Google Cloud, Magic realizzerà il suo supercomputer G4 utilizzando macchine virtuali A3 Mega alimentate da GPU NVIDIA H100 Tensor Core. Per il suo supercomputer G5 di prossima generazione, Magic sarà uno dei primi clienti a migrare alla piattaforma NVIDIA Grace Blackwell su Google Cloud quando sarà disponibile all’inizio del prossimo anno, scalando fino a decine di migliaia di GPU.
Questi computer saranno in grado di raggiungere 160 exaflops, una misura di prestazioni di calcolo così grande – sottolinea Google – che equivale all’incirca a 160 miliardi di persone che hanno in mano un miliardo di calcolatrici ciascuno, ed eseguono un calcolo nello stesso identico momento.
L’obiettivo di Magic è costruire un “ingegnere e ricercatore del software AI automatizzato” in grado di vedere e comprendere l’intero repository di codice di un’organizzazione e di portare a termine compiti di grandi dimensioni su orizzonti temporali lunghi. Per fare questo, la startup sta addestrando LLM frontier-scale con finestre di contesto ultra-long e altre capacità avanzate.
Il calcolo necessario per addestrare questi modelli ed eseguire l’inferenza dell’intelligenza artificiale è notevole; Google Cloud sta fornendo la piattaforma di fiducia per l’intelligenza artificiale, l’accesso affidabile alla potenza di calcolo e l’esperienza di prima mano nello scalare i prodotti di intelligenza artificiale per aiutare il team di Magic a portare i suoi prodotti sul mercato.
Eric Steinberger, CEO e fondatore di Magic, ha dichiarato: “L’obiettivo di Magic è quello di costruire AGI, e questo richiederà molti calcoli. Google Cloud sarà un partner prezioso per Magic mentre addestriamo e serviamo i nostri modelli di nuova generazione. L’esperienza di Google nel gestire i più grandi sistemi infrastrutturali del mondo aiuterà il nostro team a essere massimamente efficace, e il loro team è stato incredibilmente di supporto mentre iniziavamo il ramping up“.
