AI伺服器記憶體賬單正在被改寫:原本用於手機的LPDDR5X,如今在輝達新一代機櫃中的總成本已超過HBM。據外媒Wccftech 8月11日援引美國銀行(BofA)測算,輝達面向Vera Rubin Ultra NVL144的Kyber機櫃將配置124.4TB HBM4E,成本約250萬美元;同櫃216TB LPDDR5X雖單價更低,但總成本趨近280萬美元,超出前者約12%。

LPDDR5X原本主要用於手機等移動裝置,例如iPhone 17 Pro搭載12GB LPDDR5X記憶體。換算下來,Kyber單櫃所用LPDDR5X相當於約1.8萬部手機的執行記憶體總量。這並非LPDDR首次進入資料中心——早在Grace CPU時代,輝達已用LPDDR5X替代傳統伺服器DDR記憶體。如今,新一代Vera CPU將記憶體升級為SOCAMM2(小型壓接式記憶體模組),單顆CPU的LPDDR5X容量從GB級提升至TB級。

為何手機記憶體能跑進AI伺服器?核心在於CPU核心數增加、智算與超算負載資料量攀升,對記憶體容量和頻寬提出更高要求。傳統伺服器DDR5 RDIMM難以在控制功耗的同時滿足極致吞吐。輝達轉向低功耗LPDDR5X,據其2023年披露,Grace的LPDDR5X在成本相近時頻寬最高提升53%,提供同樣頻寬功耗僅為DDR5方案的約八分之一。美光與Meta聯合測試顯示,記憶體速度提升後AI資料整理任務吞吐量增加11%,容量翻倍後大數據分析任務速度提升2至3倍,LPDDR5X僅佔整機功耗6.8%。

然而,手機記憶體的安裝方式並不適配伺服器。Grace將LPDDR5X固定在CPU計算模組上,損壞需更換整塊計算板,不利於現場維護。為此,輝達採用SOCAMM模組化設計,借鑑輕薄本CAMM平鋪壓接方案,保留可拆換性並降低高度。據美光測算,首代SOCAMM頻寬為RDIMM的2.5倍以上,佔用面積約三分之一,SOCAMM2功耗約為等容量RDIMM的三分之一。在機架總能耗約束下,低功耗優勢被放大——GB200節點中GPU模組功耗佔84%,留給CPU記憶體的空間有限。

容量需求持續攀升:Grace單顆最高480GB LPDDR5X,Vera提高到1.5TB,Vera Rubin NVL72合計54TB,Kyber機櫃達216TB。Agent興起使CPU需反覆處理工具呼叫、程式碼執行等任務,對記憶體要求更高;CPU與GPU通過一致性互連,將部分容量壓力轉移到CPU側,節省昂貴HBM。儲存廠順勢提高容量,三大DRAM原廠已量產SOCAMM2,美光用32Gb裸片將單模組容量提至256GB,正客戶送樣。

輝達並非唯一擴大LPDDR使用的廠商。AMD計劃2027年推出支援LPDDR5X SOCAMM2的CPU,TrendForce稱ASIC開發商也在評估低功耗DRAM,預計2028至2030年AI伺服器可能超過智慧手機成為全球最大LPDRAM終端市場。今年6月,JEDEC正式規定SOCAMM2電氣與機械要求,推動其成為行業標準。

但供應已趨緊。TrendForce今年1月指出,DRAM原廠將產能轉向伺服器記憶體與HBM,留給LPDDR空間收窄;即便手機淡季,LPDDR5X仍供不應求。SemiAnalysis估算,輝達2026年第一季度採購SOCAMM合同價約8美元/GB,高於移動端6至7美元/GB,到2026年末可能超13美元/GB。供應不足迫使輝達考慮減配:SemiAnalysis 6月4日稱多數Vera Rubin系統可能採用96GB而非192GB SOCAMM2,單顆Vera CPU記憶體由1.5TB降至768GB;黃仁勳承認記憶體供應受限,需合理分配。TrendForce 6月10日量化缺口,按三星、SK海力士、美光2027年供貨分配,輝達LPDRAM僅能滿足約60%需求,因此選擇將Vera Rubin機櫃SOCAMM容量減半,並預計LPDDR5X緊張持續到2027年。

記憶體正成為AI系統擴張的新約束。過去討論集中在GPU側HBM,如今CPU側LPDDR的成本與供應問題開始影響整套系統的最終配置。對儲存產業鏈而言,LPDDR5X從手機週期走向AI伺服器,價格與庫存邏輯正在改變,相關廠商的產能分配和定價策略將面臨調整。