微軟跟上Google、AWS的腳步,從2024年開始與Marvell共同開發自有AI晶片Maia系列、在台積電投片,去年推出第一代Maia 100作為內部驗證之用後,今年已經推出Maia 200,明年則計劃推出Maia 300。微軟表示,橫跨多個世代的Maia發展計畫已成為微軟AI基礎建設策略的核心要素。Maia 200現已正式支援微軟Copilot、OpenAI模型,並協助微軟MAI團隊開發新一代模型,Maia 200可OpenAI模型、以及主流開源模型系列。
微軟進一步指出,Maia 300是一套專為新一代AI工作負載打造的完整系統,包含長上下文推理、對延遲高度敏感的對話式體驗,以及需要長時間持續執行的多步驟的agentic任務,Maia 300每座機櫃配置96顆晶片,功耗約167kW,Maia 300機櫃的token處理量最高可達Maia 200的7倍。
Maia 200已部署於美國、歐洲及澳洲,支援微軟Teams、Copilot與Cowork等內建AI功能,而Maia 300則採用推論優先的架構設計,針對長上下文、高記憶體需求與高解碼需求(decode-heavy)等AI工作負載優化,Maia 300系統核心能力包含:減少資料移動、更高的每瓦記憶體頻寬、透過小晶片(chiplet)架構提升效率、支援更長的上下文與更強大的智慧、支援資料中心規模的網路垂直擴展及提升每個機櫃的AI處理量;Maia 300將於2027年正式開始生


