Marvell於10月12日正式釋出第二代Structera X 3406和3506 CXL記憶體擴充套件器,公司稱這是業界首款六通道CXL 3.2記憶體擴充套件器,單控制器最高支援9TB DDR4或6TB DDR5記憶體,記憶體通道數量較上一代增加50%。兩款產品預計於2027年第一季度開始向客戶提供樣品,並將在10月12日至15日於加州聖何塞舉行的OCP全球峰會上亮相。
此次釋出瞄準的是AI推理工作負載日益突出的記憶體瓶頸。隨著大型語言模型規模擴大、上下文視窗延長以及KV快取需求快速增長,傳統伺服器架構在記憶體容量與頻寬上承受的壓力不斷加大,記憶體正逐漸成為制約AI效能和基礎設施效率的關鍵因素。Marvell希望通過更大容量、更高頻寬的記憶體擴充套件方案,切入AI推理基礎設施升級帶來的需求增長。
從具體規格看,兩款產品均支援六通道記憶體。其中3406支援18個DDR4 RDIMM插槽,最高容量達9TB;3506支援12個DDR5 RDIMM插槽,最高容量為6TB。在主機互聯方面,兩款產品均支援最多四台主機共享記憶體資源,主機互聯頻寬最高可達256GB/s,採用PCIe 6.0 x16介面。壓縮效能上,新產品內建LZ4壓縮引擎,壓縮和解壓縮吞吐量最高達250GB/s,較上一代提升5倍,可將有效記憶體容量擴大至原來的2至3倍。
Marvell給出的效能資料顯示,在大型語言模型推理場景中,新產品可在相同上下文長度下將首位元組響應時間(TTFT)縮短40%至50%;在深度學習推薦模型(DLRM)場景中,單控制器每秒查詢量最高可提升至原來的2倍,嵌入表有效容量則可擴大至原來的2至3倍。這些指標指向的是同一類問題:在算力之外,記憶體容量與訪問效率正成為決定推理成本與響應速度的重要變數。
生態層面,Marvell表示第二代Structera X沿用已向超大規模資料中心客戶出貨的第一代2404/2504產品的軟體棧和生態整合方案,意在加快新產品的客戶匯入程序。多家行業夥伴公開表達支援。AMD企業副總裁Raghu Nambiar表示,雙方合作依託EPYC處理器的效能與可擴充套件性,幫助企業在AI和資料密集型應用需求增長背景下擴充套件記憶體容量、提高資源利用效率。Arm雲端AI go-to-market副總裁Eddie Ramirez表示,Structera X將CXL 3.2、記憶體擴充套件和壓縮能力引入Arm生態,為超大規模資料中心高效運行復雜AI工作負載提供更多選擇。三星電子記憶體產品規劃副總裁Jangseok Choi和SK海力士下一代產品規劃與使能負責人Uksong Kang則表示,雙方已分別與Marvell完成Structera產品與各自DDR記憶體的驗證。阿里巴巴同樣對新產品及相關生態合作表示支援。
Marvell客製化雲端解決方案執行副總裁兼總經理Will Chu表示,公司是業內唯一提供完整端到端CXL產品組合的供應商,產品覆蓋多個層級:用於記憶體擴充套件的Structera X、用於近記憶體加速的Structera A,以及面向機櫃級CXL記憶體共享的PFMA(Photonic Fabric™ Memory Appliance),覆蓋從直連記憶體擴充套件到記憶體池化與分解的不同應用場景。這一組合的意圖,是把CXL從單一的記憶體擴容工具,推進到資料中心內部記憶體資源池化與分解的架構層面。
市場研究機構Objective Analysis總經理Jim Handy指出,CXL正逐步應用於AI系統,其高頻寬、大容量特性有望帶來顯著收益。他還表示,在記憶體供應緊張、價格高企的背景下,IT管理者正考慮利用CXL在DDR5系統中複用DDR4記憶體模組,以降低成本;具備記憶體壓縮功能的控制器則有望進一步增強這類方案的吸引力。這一觀點提示,CXL擴充套件器的價值不僅在於效能,也在於為資料中心提供更靈活的記憶體成本管理手段。
對關注AI基礎設施的讀者而言,這條訊息的意義在於記憶體正從配套部件變成推理系統的關鍵約束之一。隨著模型規模與上下文長度繼續擴張,如何在既有伺服器架構下提升記憶體容量、頻寬與利用率,將直接影響推理的響應速度與單位成本。Marvell通過六通道CXL 3.2控制器、壓縮能力以及與多家記憶體與處理器廠商的驗證合作,試圖在這一環節建立更完整的產品與生態位置;而樣品要到2027年第一季度才交付,意味著相關方案的規模化落地仍需時間驗證。