微軟發佈第三代自研AI芯片Maia 300,明年起大舉部署壓低對英偉達依賴
10月12日,微軟發佈第三代自研AI加速器Maia 300,這是繼2023年首代Maia、今年1月Maia 200之後的最新作品,公司稱2027年進入量產。它走的技術路線和英偉達不同:英偉達是一顆大計算芯片外面圍着高帶寬內存,Maia 300則把計算拆成多顆小芯片,計算部分用臺積電N2P 2納米工藝,負責搬數據的I/O部分用更便宜的3納米工藝。單顆加速器配288GB HBM4內存、帶寬18TB/s,FP4算力13.8 PFLOPS、FP8算力6.9 PFLOPS,熱設計功耗950瓦;一個機架塞96顆,整機架約167千瓦,而英偉達最新的GB300機架裝72顆GPU約142千瓦。
微軟雲與AI執行副總裁Scott Guthrie在官方博客裏說,Maia將成爲“微軟產品與服務的主力AI推理系統”,從2027年起把Azure Maia擴展到多吉瓦級部署。他給出的數字是:相比“領先的GPU系統”,Maia 300每兆瓦能多產出40%的token;在滿配96顆加速器下,機架級token吞吐最高可達Maia 200的7倍,性能功耗比是上一代的2.5倍以上。路透社特別指出,微軟沒有說明這40%是拿哪幾款GPU系統來對比的。Azure技術博客補充說,新芯片面向長上下文推理、低延遲對話和多步智能體任務,採用軟件定義數據流架構加AI輔助的算子優化,讓數據儘量留在需要它的部位。
前一代已經在扛真實流量:Maia 200目前跑着微軟自家的MAI模型、OpenAI經Azure交付的模型和開源模型,也支撐Microsoft 365 Copilot等生產負載。微軟稱它在Teams、Copilot、Cowork這些應用上,每瓦token產出比其他GPU系統高1.7倍。此次披露的Maia 300規格還包括每機架27.6TB內存容量、可擴展到1.2萬顆加速器的集羣規模。
微軟預計本日曆年資本開支將超過1750億美元,而云廠商眼下同時被成本和電力卡住。微軟Azure硬件系統與基礎設施總裁Rani Borkar對路透社說,這套設計的目標是“在每瓦、每美元、每字節內存上擠出更多智能”。GeekWire把這稱爲微軟“迄今最大的一次自研硅下注”,並報道這一轉變可能爲公司省下數十億美元。
壓力落在英偉達的收入結構上:多家媒體指出,英偉達每個季度經常有50%以上的收入來自超大規模雲廠商。亞馬遜和谷歌已經把自己的定製芯片租給第三方客戶,亞馬遜還在談把芯片直接賣給客戶裝進自家數據中心。這正是微軟自研芯片被反覆當作“威脅”討論的原因。
換芯的邊界很清楚。CNBC援引微軟總經理Alistair Speirs的說法,模型訓練仍會與英偉達和AMD合作,現有數據中心裏也還部署着大量英偉達GPU;上週黃仁勳還出現在微軟發佈搭載英偉達處理器的Surface筆記本活動上。Evercore ISI估算,到2027年第一季度,Maia只佔微軟AI芯片支出的約10%,該分析師同時建議買入微軟。CNBC還提到,Maia不對外按小時出租,Azure客戶現在還選不到它。
路透社稱,微軟計劃明年部署“可能超過一百萬顆”自研芯片,用來支撐內部AI服務。此前的行業報道說,微軟正與臺積電洽談30萬顆Maia 300的產能、目標2027年交付,並把最終規模瞄向100萬顆以上。前兩代鋪得並不快:首代2023年發佈,Maia 200今年1月纔出、還經歷過延期,據The Information報道,今年夏天它只跑在美國的兩個數據中心裏。Speirs拒絕給出具體時間表,理由是“這個行業變化太快,我們要在合適的時間爲合適的模型部署合適的芯片”。