Salta al contenuto

Tech

Microsoft Maia 300: 7x di throughput e Nvidia sotto torchio

Il chip Maia di terza generazione di Microsoft arriva nel 2027, con ambizioni multi-gigawatt e il piano di far girare i propri prodotti soprattutto su silicio di casa. Maia 200 è uscito solo a gennaio: la roadmap corre.

Foto di copertina: Raysonho @ Open Grid Scheduler / Grid Engine / CC BY 3.0

TL;DR

  1. Maia 300 entra in produzione nel 2027: è il chip AI interno di terza generazione di Microsoft.
  2. Microsoft prevede il 40 percento di token in più per megawatt rispetto ai principali sistemi GPU-based.
  3. Maia diventa il sistema di inferenza primario dei prodotti Microsoft, su scala multi-gigawatt.

Cosa è successo

Microsoft ha annunciato Maia 300, la terza generazione del suo chip AI sviluppato in casa. Punta sull'inferenza, cioè la fase in cui un modello ti risponde invece di imparare. Il rollout in produzione parte nel 2027.

L'affermazione grossa riguarda la scala. Microsoft dice che farà crescere la famiglia Azure Maia fino a deployment multi-gigawatt a partire dal 2027 e che renderà Maia il sistema di inferenza primario per i suoi prodotti e servizi.

Scott Guthrie, che guida la divisione cloud di Microsoft, ci ha messo i numeri. Secondo lui Maia 300 dovrebbe offrire il 40 percento di token in più per megawatt rispetto ai principali sistemi GPU-based.

Anche quel 7x è una dichiarazione di Guthrie, ed è misurato contro Maia 200, non contro un rivale. È un dato del fornitore, per un chip che fuori da Microsoft nessuno può ancora far girare.

A proposito di Maia 200: è stato annunciato solo a gennaio. Già serve carichi di lavoro di produzione di Microsoft, tra cui Microsoft Copilot, e aiuta il team MAI a costruire i modelli di prossima generazione.

GitHub Copilot e Microsoft Foundry dovrebbero seguire entro fine anno. Microsoft dice di far girare i modelli di OpenAI, i propri modelli MAI e le principali famiglie open source.

Perché conta

L'inferenza è il posto dove vivono i costi di esercizio. Ogni risposta di Copilot brucia calcolo, e Microsoft vende molto Copilot. Possedere il chip significa possedere più pezzi della curva dei costi.

The Verge legge la mossa come un Microsoft meno dipendente dalle GPU di Nvidia, e scrive che presto dovrebbe appoggiarsi soprattutto ai propri chip invece che a quelli di Nvidia e AMD.

La proposta di Microsoft è il co-design: vede come si comportano i suoi servizi AI su larga scala, quindi può calibrare hardware e software insieme.

Maia 300 è pensato anche per i carichi più recenti: ragionamento a contesto lungo, chat sensibili alla latenza e task da agente multi-step prolungati. È la forma verso cui vanno i prodotti AI, e il chip è fatto per quella.

Microsoft vuole che sia il suo silicio a fare la maggior parte del suo pensiero.

Teniamo a portata di mano le cautele. Il 40 percento è un'aspettativa, non un benchmark eseguito da terzi. Il chip arriva nel 2027. Le slide non sono rack.

Cosa cambia in Europa

Il rollout di Microsoft è descritto come in partenza nel 2027, e i clienti europei comprano la loro AI tramite Azure come tutti gli altri. Se Maia renderà l'inferenza più economica, potrebbe vedersi in quello che le aziende pagano per i carichi di lavoro Copilot e Foundry.

Nell'annuncio non c'è alcun calendario regionale, quindi i tempi europei restano aperti. Chiedi al tuo account manager dove atterrerà la capacità, non solo quando.

Cosa farne

  • Chiedi dei prezzi.Se usi carichi AI su Azure, domanda al tuo contatto Microsoft come l'inferenza su Maia inciderà sui tuoi costi.
  • Segna le tappe di fine anno.GitHub Copilot e Foundry sono attesi su Maia 200 entro fine anno: quello è il primo segnale vero.
  • Tieni lo stack portabile.Maia fa girare modelli OpenAI, MAI e open source, quindi evita di legarti a una sola famiglia di modelli.
  • Scontare i numeri dei vendor.Tratta 40 percento e 7x come obiettivi finché non arrivano test indipendenti.

Keep up, sapiens. I chip ormai si costruiscono da soli la pipeline.