Marvell于10月12日正式发布第二代Structera X 3406和3506 CXL内存扩展器,公司称这是业界首款六通道CXL 3.2内存扩展器,单控制器最高支持9TB DDR4或6TB DDR5内存,内存通道数量较上一代增加50%。两款产品预计于2027年第一季度开始向客户提供样品,并将在10月12日至15日于加州圣何塞举行的OCP全球峰会上亮相。

此次发布瞄准的是AI推理工作负载日益突出的内存瓶颈。随着大型语言模型规模扩大、上下文窗口延长以及KV缓存需求快速增长,传统服务器架构在内存容量与带宽上承受的压力不断加大,内存正逐渐成为制约AI性能和基础设施效率的关键因素。Marvell希望通过更大容量、更高带宽的内存扩展方案,切入AI推理基础设施升级带来的需求增长。

从具体规格看,两款产品均支持六通道内存。其中3406支持18个DDR4 RDIMM插槽,最高容量达9TB;3506支持12个DDR5 RDIMM插槽,最高容量为6TB。在主机互联方面,两款产品均支持最多四台主机共享内存资源,主机互联带宽最高可达256GB/s,采用PCIe 6.0 x16接口。压缩性能上,新产品内置LZ4压缩引擎,压缩和解压缩吞吐量最高达250GB/s,较上一代提升5倍,可将有效内存容量扩大至原来的2至3倍。

Marvell给出的性能数据显示,在大型语言模型推理场景中,新产品可在相同上下文长度下将首字节响应时间(TTFT)缩短40%至50%;在深度学习推荐模型(DLRM)场景中,单控制器每秒查询量最高可提升至原来的2倍,嵌入表有效容量则可扩大至原来的2至3倍。这些指标指向的是同一类问题:在算力之外,内存容量与访问效率正成为决定推理成本与响应速度的重要变量。

生态层面,Marvell表示第二代Structera X沿用已向超大规模数据中心客户出货的第一代2404/2504产品的软件栈和生态集成方案,意在加快新产品的客户导入进程。多家行业伙伴公开表达支持。AMD企业副总裁Raghu Nambiar表示,双方合作依托EPYC处理器的性能与可扩展性,帮助企业在AI和数据密集型应用需求增长背景下扩展内存容量、提高资源利用效率。Arm云端AI go-to-market副总裁Eddie Ramirez表示,Structera X将CXL 3.2、内存扩展和压缩能力引入Arm生态,为超大规模数据中心高效运行复杂AI工作负载提供更多选择。三星电子内存产品规划副总裁Jangseok Choi和SK海力士下一代产品规划与使能负责人Uksong Kang则表示,双方已分别与Marvell完成Structera产品与各自DDR内存的验证。阿里巴巴同样对新产品及相关生态合作表示支持。

Marvell客制化云端解决方案执行副总裁兼总经理Will Chu表示,公司是业内唯一提供完整端到端CXL产品组合的供应商,产品覆盖多个层级:用于内存扩展的Structera X、用于近内存加速的Structera A,以及面向机柜级CXL内存共享的PFMA(Photonic Fabric™ Memory Appliance),覆盖从直连内存扩展到内存池化与分解的不同应用场景。这一组合的意图,是把CXL从单一的内存扩容工具,推进到数据中心内部内存资源池化与分解的架构层面。

市场研究机构Objective Analysis总经理Jim Handy指出,CXL正逐步应用于AI系统,其高带宽、大容量特性有望带来显著收益。他还表示,在内存供应紧张、价格高企的背景下,IT管理者正考虑利用CXL在DDR5系统中复用DDR4内存模组,以降低成本;具备内存压缩功能的控制器则有望进一步增强这类方案的吸引力。这一观点提示,CXL扩展器的价值不仅在于性能,也在于为数据中心提供更灵活的内存成本管理手段。

对关注AI基础设施的读者而言,这条消息的意义在于内存正从配套部件变成推理系统的关键约束之一。随着模型规模与上下文长度继续扩张,如何在既有服务器架构下提升内存容量、带宽与利用率,将直接影响推理的响应速度与单位成本。Marvell通过六通道CXL 3.2控制器、压缩能力以及与多家内存与处理器厂商的验证合作,试图在这一环节建立更完整的产品与生态位置;而样品要到2027年第一季度才交付,意味着相关方案的规模化落地仍需时间验证。