Marvell Technology 於 2026 年 8 月 4 日宣佈擴充套件其 AI 記憶體基礎設施組合,覆蓋伺服器級 AI 儲存、機架級 CXL 記憶體擴充套件與池化、以及 pod 級光共享記憶體,旨在幫助超大規模和雲服務商更獨立於計算擴充套件記憶體,提升基礎設施利用率、可擴充套件性和 token 效率,以加速智慧體 AI 推理。

隨著智慧體 AI 推理規模擴大,記憶體容量、頻寬和連線性變得與計算同等重要。更大的模型、更長的上下文視窗和不斷增長的 KV 快取帶來了前所未有的記憶體需求,也暴露了傳統伺服器附屬架構的侷限。Marvell 的記憶體分解方案通過更獨立地擴充套件、池化和共享記憶體,減少資料移動和延遲,有助於減少 GPU 停頓,提高模型 FLOPs 利用率,從而在相同的資料中心佔地面積和功耗範圍內生成更多 token。

Marvell 定製雲解決方案執行副總裁兼總經理 Will Chu 表示,AI 基礎設施正從孤立伺服器轉向計算、記憶體和連線無縫協同的系統,記憶體必須更獨立於計算擴充套件,以便資源部署到最有價值的地方。Marvell 擁有業界最廣泛的 AI 記憶體基礎設施組合,幫助客戶提高利用率、提升 token 效率並擴充套件 AI,同時不犧牲效能、功耗或成本。

市場研究機構 650 Group 聯合創始人兼技術分析師 Alan Weckel 評論稱,隨著 AI 工作負載更大更復雜,記憶體容量、頻寬、延遲和資料移動正成為 AI 效能的主要約束,Marvell 的記憶體和儲存組合為超大規模和雲服務商構建可擴充套件、高效的 AI 系統提供了堅實基礎。

在伺服器級 AI 儲存方面,Marvell 推出 Bravera SC6 PCIe 6.0 SSD 控制器,效能是廣泛部署的 Bravera SC5 PCIe 5.0 的兩倍,支援將更多 KV 快取從高頻寬記憶體遷移到 SSD,提高基礎設施效率,同時降低寫入放大、延長 NAND 壽命,並支援多家 NAND 供應商,為雲服務商提供更大靈活性。

在機架級記憶體擴充套件與池化方面,Marvell 的 Structera X 記憶體擴充套件解決方案與領先超大規模客戶合作開發,幫助擴充套件、最佳化和更好利用記憶體資源,支援更大記憶體池和跨伺服器更高效共享資源,改善基礎設施利用率、運營效率和總擁有成本,併為未來 CXL 記憶體池化和共享奠定基礎。

在 pod 級光共享記憶體方面,Marvell 的 Photonic Fabric 記憶體模組、NIC 和 chiplets 構成多機架光共享記憶體架構的基礎,可在多 XPU 和長達 50 米的機架間建立共享記憶體層,支援高達 32TB 的溫 KV 快取解除安裝,具有高頻寬和極低延遲,可在現有資料中心和功耗範圍內將 token 吞吐量提升 2-3 倍

Bravera SC6 預計於 2026 年第四季度開始送樣,Marvell 將在 FMS 2026#805 展位展示其最新加速記憶體和儲存產品。