AI服务器内存账单正在被改写:原本用于手机的LPDDR5X,如今在英伟达新一代机柜中的总成本已超过HBM。据外媒Wccftech 8月11日援引美国银行(BofA)测算,英伟达面向Vera Rubin Ultra NVL144的Kyber机柜将配置124.4TB HBM4E,成本约250万美元;同柜216TB LPDDR5X虽单价更低,但总成本趋近280万美元,超出前者约12%。

LPDDR5X原本主要用于手机等移动设备,例如iPhone 17 Pro搭载12GB LPDDR5X内存。换算下来,Kyber单柜所用LPDDR5X相当于约1.8万部手机的运行内存总量。这并非LPDDR首次进入数据中心——早在Grace CPU时代,英伟达已用LPDDR5X替代传统服务器DDR内存。如今,新一代Vera CPU将内存升级为SOCAMM2(小型压接式内存模块),单颗CPU的LPDDR5X容量从GB级提升至TB级。

为何手机内存能跑进AI服务器?核心在于CPU核心数增加、智算与超算负载数据量攀升,对内存容量和带宽提出更高要求。传统服务器DDR5 RDIMM难以在控制功耗的同时满足极致吞吐。英伟达转向低功耗LPDDR5X,据其2023年披露,Grace的LPDDR5X在成本相近时带宽最高提升53%,提供同样带宽功耗仅为DDR5方案的约八分之一。美光与Meta联合测试显示,内存速度提升后AI数据整理任务吞吐量增加11%,容量翻倍后大数据分析任务速度提升2至3倍,LPDDR5X仅占整机功耗6.8%。

然而,手机内存的安装方式并不适配服务器。Grace将LPDDR5X固定在CPU计算模块上,损坏需更换整块计算板,不利于现场维护。为此,英伟达采用SOCAMM模块化设计,借鉴轻薄本CAMM平铺压接方案,保留可拆换性并降低高度。据美光测算,首代SOCAMM带宽为RDIMM的2.5倍以上,占用面积约三分之一,SOCAMM2功耗约为等容量RDIMM的三分之一。在机架总能耗约束下,低功耗优势被放大——GB200节点中GPU模块功耗占84%,留给CPU内存的空间有限。

容量需求持续攀升:Grace单颗最高480GB LPDDR5X,Vera提高到1.5TB,Vera Rubin NVL72合计54TB,Kyber机柜达216TB。Agent兴起使CPU需反复处理工具调用、代码运行等任务,对内存要求更高;CPU与GPU通过一致性互连,将部分容量压力转移到CPU侧,节省昂贵HBM。存储厂顺势提高容量,三大DRAM原厂已量产SOCAMM2,美光用32Gb裸片将单模块容量提至256GB,正客户送样。

英伟达并非唯一扩大LPDDR使用的厂商。AMD计划2027年推出支持LPDDR5X SOCAMM2的CPU,TrendForce称ASIC开发商也在评估低功耗DRAM,预计2028至2030年AI服务器可能超过智能手机成为全球最大LPDRAM终端市场。今年6月,JEDEC正式规定SOCAMM2电气与机械要求,推动其成为行业标准。

但供应已趋紧。TrendForce今年1月指出,DRAM原厂将产能转向服务器内存与HBM,留给LPDDR空间收窄;即便手机淡季,LPDDR5X仍供不应求。SemiAnalysis估算,英伟达2026年第一季度采购SOCAMM合同价约8美元/GB,高于移动端6至7美元/GB,到2026年末可能超13美元/GB。供应不足迫使英伟达考虑减配:SemiAnalysis 6月4日称多数Vera Rubin系统可能采用96GB而非192GB SOCAMM2,单颗Vera CPU内存由1.5TB降至768GB;黄仁勋承认内存供应受限,需合理分配。TrendForce 6月10日量化缺口,按三星、SK海力士、美光2027年供货分配,英伟达LPDRAM仅能满足约60%需求,因此选择将Vera Rubin机柜SOCAMM容量减半,并预计LPDDR5X紧张持续到2027年。

内存正成为AI系统扩张的新约束。过去讨论集中在GPU侧HBM,如今CPU侧LPDDR的成本与供应问题开始影响整套系统的最终配置。对存储产业链而言,LPDDR5X从手机周期走向AI服务器,价格与库存逻辑正在改变,相关厂商的产能分配和定价策略将面临调整。