SK海力士在2026年OCP全球峰会上一次性发布两项面向AI基础设施的内存技术——MARS内存加速架构与HBF高带宽闪存,分别针对推理场景的内存利用效率与存储容量扩展。公司高级副总裁Hoshik Kim在峰会上披露了这两项技术的定位与时间表。
MARS的全称是Memory-Centric AI Rack-Scale System,核心思路是内存解聚。Kim指出,传统以处理器为中心的集群存在两个结构性缺陷:一台服务器上的闲置内存难以与其他节点共享,而扩容内存往往意味着整台新服务器节点的采购。这两点叠加,迫使运营商对GPU进行过度配置,推高总拥有成本(TCO)并拉低系统效率。MARS试图把内存从CPU/GPU服务器的约束中解耦,构建专用的大规模内存池,并将托盘级内存池的概念扩展到机架规模,让计算与内存作为共享基础设施协同工作。
在多轮AI智能体推理这类场景中,对话上下文会令KV缓存急剧膨胀。MARS的设计是把这部分缓存放进共享内存系统,而不是耗尽GPU内存与存储资源。据TrendForce现场报道,Kim援引测试数据称,与重新计算方案相比,MARS可将首次标记时间(TTFT)提升3至5倍,尾延迟的改善尤为明显。对推理服务商而言,TTFT直接关系用户体验,尾延迟则影响大规模并发下的服务稳定性。
另一项技术HBF走的是不同路线。Kim明确了它与HBM的分工:HBF的带宽约为HBM的一半,但容量约为HBM的14倍,即用适度的带宽折让换取机架层面更大的容量空间。对于需要承载海量参数与上下文的大模型推理,容量瓶颈有时比带宽瓶颈更制约性能,这使HBF的容量优势具备实际意义。
在标准化与产品节奏上,SK海力士已于今年7月发布OCP HBF规范0.7版本,预计明年初推出1.0版本,HBF Cube样品计划于2028年初提供。这意味着HBF距离大规模商业化部署仍有约两年窗口,但规范的推进显示产业标准化进程在加速。
把两项技术放在一起看,它们反映的是存储厂商在HBM供应持续紧张背景下的多元化尝试。当前HBM产能高度集中,英伟达等AI芯片厂商的需求持续推高供应压力,为替代或补充性内存架构留出了市场空间。从技术逻辑上说,MARS并不直接替代HBM,而是通过内存解聚在系统层面提升整体内存利用效率,减少对GPU内存扩容的依赖;这意味着数据中心运营商有可能在不增加HBM采购量的前提下改善推理性能,对HBM需求形成一定的边际抑制。HBF则在存储层级上充当HBM的容量补充,但其带宽折半的特性决定了它更适合作为分级存储架构中的补充层,而非HBM的直接替代。
对存储产业链而言,SK海力士在OCP峰会上的集中发布,也是向云计算厂商与AI基础设施运营商传递技术路线图的信号。随着HBF规范走向1.0版本、样品节点指向2028年,围绕新型存储架构的生态竞争可能提前展开,三星、美光等竞争对手如何应对,值得持续观察。