Marvell Technology 于 2026 年 8 月 4 日宣布扩展其 AI 内存基础设施组合,覆盖服务器级 AI 存储、机架级 CXL 内存扩展与池化、以及 pod 级光共享内存,旨在帮助超大规模和云服务商更独立于计算扩展内存,提升基础设施利用率、可扩展性和 token 效率,以加速智能体 AI 推理。

随着智能体 AI 推理规模扩大,内存容量、带宽和连接性变得与计算同等重要。更大的模型、更长的上下文窗口和不断增长的 KV 缓存带来了前所未有的内存需求,也暴露了传统服务器附属架构的局限。Marvell 的内存分解方案通过更独立地扩展、池化和共享内存,减少数据移动和延迟,有助于减少 GPU 停顿,提高模型 FLOPs 利用率,从而在相同的数据中心占地面积和功耗范围内生成更多 token。

Marvell 定制云解决方案执行副总裁兼总经理 Will Chu 表示,AI 基础设施正从孤立服务器转向计算、内存和连接无缝协同的系统,内存必须更独立于计算扩展,以便资源部署到最有价值的地方。Marvell 拥有业界最广泛的 AI 内存基础设施组合,帮助客户提高利用率、提升 token 效率并扩展 AI,同时不牺牲性能、功耗或成本。

市场研究机构 650 Group 联合创始人兼技术分析师 Alan Weckel 评论称,随着 AI 工作负载更大更复杂,内存容量、带宽、延迟和数据移动正成为 AI 性能的主要约束,Marvell 的内存和存储组合为超大规模和云服务商构建可扩展、高效的 AI 系统提供了坚实基础。

在服务器级 AI 存储方面,Marvell 推出 Bravera SC6 PCIe 6.0 SSD 控制器,性能是广泛部署的 Bravera SC5 PCIe 5.0 的两倍,支持将更多 KV 缓存从高带宽内存迁移到 SSD,提高基础设施效率,同时降低写入放大、延长 NAND 寿命,并支持多家 NAND 供应商,为云服务商提供更大灵活性。

在机架级内存扩展与池化方面,Marvell 的 Structera X 内存扩展解决方案与领先超大规模客户合作开发,帮助扩展、优化和更好利用内存资源,支持更大内存池和跨服务器更高效共享资源,改善基础设施利用率、运营效率和总拥有成本,并为未来 CXL 内存池化和共享奠定基础。

在 pod 级光共享内存方面,Marvell 的 Photonic Fabric 内存模块、NIC 和 chiplets 构成多机架光共享内存架构的基础,可在多 XPU 和长达 50 米的机架间创建共享内存层,支持高达 32TB 的温 KV 缓存卸载,具有高带宽和极低延迟,可在现有数据中心和功耗范围内将 token 吞吐量提升 2-3 倍

Bravera SC6 预计于 2026 年第四季度开始送样,Marvell 将在 FMS 2026#805 展位展示其最新加速内存和存储产品。