微軟正式釋出第三代自研AI晶片Maia 300,該晶片完全剝離了訓練場景的冗餘硬體設計,專為長上下文對話、低延遲互動、多步驟Agent任務等高併發商用推理場景打造。這是微軟自2023年11月推出訓推一體的Maia 100、今年1月釋出向推理傾斜的Maia 200之後,在自研算力路線上的又一次明確升級。至此,微軟的自研晶片戰略從通用試水、架構傾斜,最終落地為純推理的極致降本提效。

微軟並非孤例。谷歌今年4月釋出的第八代TPU採用雙晶片分立架構,其中TPU 8i專屬聚焦推理,適配MoE稀疏架構、多輪Agent互動等需求;亞馬遜則更早拆分算力賽道,Trainium專攻訓練,Inferentia系列專注雲端推理,已形成兩代迭代的完整產品矩陣。三大雲巨頭不約而同地放棄在高階訓練晶片上與輝達正面競爭,轉而將資源集中到推理賽道。

這一戰略取捨背後是兩類晶片在技術門檻與商業化效率上的本質差異。訓練晶片需要極致算力、超高速HBM頻寬和納秒級多卡互聯,研發週期長達3至5年,單次流片等綜合成本可達數億美元,更關鍵的是輝達CUDA生態經過十餘年積累形成的鎖定效應,後來者短期難以突破。而推理晶片僅需單向前向計算,可通過模型量化、引數壓縮等演算法最佳化適配中高階硬體,且不依賴封閉生態,可針對細分場景定製架構,規避輝達的軟體壁壘。

商業化層面的差距更為懸殊。訓練算力屬於低頻、階段性、重資產的小眾剛需,回款緩慢;推理算力則是7×24小時常態化執行的全域剛需,覆蓋企業智慧服務、內容生成、Agent自動化等所有AI落地場景。偏科聲結合IDC、浪潮資訊等行業測算資料指出,全球AI算力結構正持續向推理傾斜,預計2026年推理算力佔比將突破70%,成為算力產業的核心主力負載。

更核心的動因在於利潤分配。在傳統通用GPU體系中,輝達憑藉硬體架構與CUDA生態掌控定價權,拿走了產業鏈最豐厚的硬體利潤。雲服務商的算力業務看似營收增長,但絕大部分收入最終轉化為GPU採購、叢集運維、能耗等剛性成本。根據全球雲服務商財報拆解與IDC行業測算,完全搭載輝達高階GPU的AI算力叢集,硬體初始採購成本佔整體運營成本的60%以上,疊加後續支出,綜合硬體成本佔比持續攀升,直接將AI推理業務的淨利潤率壓縮至個位數。

自研推理晶片則從根源上重構成本結構。以Maia 300、TPU 8i、Inferentia2為代表的專用晶片剔除了訓練冗餘模組,省去品牌溢價與渠道成本,並能與自家雲服務、大模型演算法深度協同。根據微軟官方技術團隊公開測算,Maia系列晶片規模化落地後,單Token推理成本可下降30%–50%,企業算力服務的邊際成本大幅降低,盈利能力得到修復。產業利潤正從上游硬體環節逐步迴流至掌握終端算力服務與場景落地能力的企業手中。

展望未來,AI算力市場將呈現訓推雙軌分化格局。在超大規模模型訓練賽道,輝達憑藉CUDA生態和萬卡叢集互聯能力,短期仍無人能撼動其壟斷地位,萬億引數預訓練依舊高度依賴其旗艦晶片。而在通用推理賽道,科技巨頭自研晶片全面內卷,同時為國產算力廠商提供了錯位競爭的空間。華為昇騰310/320、寒武紀思元370/590、壁仞科技、海光資訊等產品均以雲端推理為核心落地場景,避開訓練生態壁壘,依託價效比和本土化適配在國內智算中心、政企AI落地等場景持續放量。巨頭們的戰略轉向,為國產算力指明瞭一條聚焦推理、快速商業化的突圍路徑。