SK海力士在2026年OCP全球峰會上一次性發布兩項面向AI基礎設施的記憶體技術——MARS記憶體加速架構與HBF高頻寬快閃記憶體,分別針對推理場景的記憶體利用效率與儲存容量擴充套件。公司高階副總裁Hoshik Kim在峰會上披露了這兩項技術的定位與時間表。

MARS的全稱是Memory-Centric AI Rack-Scale System,核心思路是記憶體解聚。Kim指出,傳統以處理器為中心的叢集存在兩個結構性缺陷:一台伺服器上的閒置記憶體難以與其他節點共享,而擴容記憶體往往意味著整台新伺服器節點的採購。這兩點疊加,迫使運營商對GPU進行過度配置,推高總擁有成本(TCO)並拉低系統效率。MARS試圖把記憶體從CPU/GPU伺服器的約束中解耦,構建專用的大規模記憶體池,並將托盤級記憶體池的概念擴充套件到機架規模,讓計算與記憶體作為共享基礎設施協同工作。

在多輪AI智慧體推理這類場景中,對話上下文會令KV快取急劇膨脹。MARS的設計是把這部分快取放進共享記憶體系統,而不是耗盡GPU記憶體與儲存資源。據TrendForce現場報道,Kim援引測試資料稱,與重新計算方案相比,MARS可將首次標記時間(TTFT)提升3至5倍,尾延遲的改善尤為明顯。對推理服務商而言,TTFT直接關係使用者體驗,尾延遲則影響大規模併發下的服務穩定性。

另一項技術HBF走的是不同路線。Kim明確了它與HBM的分工:HBF的頻寬約為HBM的一半,但容量約為HBM的14倍,即用適度的頻寬折讓換取機架層面更大的容量空間。對於需要承載海量引數與上下文的大模型推理,容量瓶頸有時比頻寬瓶頸更制約效能,這使HBF的容量優勢具備實際意義。

在標準化與產品節奏上,SK海力士已於今年7月釋出OCP HBF規範0.7版本,預計明年初推出1.0版本,HBF Cube樣品計劃於2028年初提供。這意味著HBF距離大規模商業化部署仍有約兩年視窗,但規範的推進顯示產業標準化程序在加速。

把兩項技術放在一起看,它們反映的是儲存廠商在HBM供應持續緊張背景下的多元化嘗試。當前HBM產能高度集中,輝達等AI晶片廠商的需求持續推高供應壓力,為替代或補充性記憶體架構留出了市場空間。從技術邏輯上說,MARS並不直接替代HBM,而是通過記憶體解聚在系統層面提升整體記憶體利用效率,減少對GPU記憶體擴容的依賴;這意味著資料中心運營商有可能在不增加HBM採購量的前提下改善推理效能,對HBM需求形成一定的邊際抑制。HBF則在儲存層級上充當HBM的容量補充,但其頻寬折半的特性決定了它更適合作為分級儲存架構中的補充層,而非HBM的直接替代。

對儲存產業鏈而言,SK海力士在OCP峰會上的集中釋出,也是向雲端計算廠商與AI基礎設施運營商傳遞技術路線圖的訊號。隨著HBF規範走向1.0版本、樣品節點指向2028年,圍繞新型儲存架構的生態競爭可能提前展開,三星、美光等競爭對手如何應對,值得持續觀察。