在 11 月 15 日至 20 日于美国伊利诺伊州芝加哥举行的 Supercomputing 2026 上,SK 海力士集中展示了其以内存为核心的下一代服务器机架系统 MARS(Memory-centric AI Rack System),以及包括 HBM4E 在内的新一代内存方案。这场高性能计算与 AI 领域的全球性展会今年吸引约 1 万名参观者、约 500 家企业和机构参展,SK 海力士借此机会向全球客户与合作伙伴详细介绍了其技术路线。
SK 海力士对当前内存技术趋势的判断是:AI 处理的数据量持续膨胀,内存不能只停留在“存进去、取出来”的角色。行业正在探索按数据使用频率对内存分层、把多台服务器聚合成单一内存池以提升存储与系统间传输效率,同时在设计与工艺上继续推高容量和处理速度,并尝试把计算功能集成进内存,扩展内存的职能边界。MARS 正是这一思路的系统级载体——它把合作伙伴的解决方案集成到单个机架中,以内存为中心来最大化效率。
在 MARS 展区,SK 海力士用三个演示说明其能力。第一个演示把 CXL 内存与 CXL 混合内存结合,呈现机架级别的池化内存共享 KV 缓存:持续产生的大规模 KV 缓存先存放在 CXL 混合内存内的 SSD 中,复用时系统依据此前的对话与任务历史预测哪些缓存会被需要,并快速加载到 DRAM,从而在为大模型运行提供高容量存储的同时保持快速读取。第二个演示是一套 AI 智能体服务系统,通过计算内存池连接多台服务器与 GPU;相比依赖网络通信的传统方式,基于 CXL 的计算池化内存有选择地传输或复用 KV 缓存,可显著提升系统性能。第三个演示针对多模态 AI 服务:由于 CPU 预处理的延迟会拉长 GPU 空闲时间、拖低处理效率,SK 海力士让通过 CXL 池化内存连接的 CPU 服务器共享各自生成的 token,减少重复处理,优化 CPU 资源利用与任务调度,进而缩短 GPU 空闲时间、提升服务性能。
展区另一侧的系统演示则按顺序呈现三项技术:CXL 上的 KV 缓存卸载、存内计算 DRAM(Compute-using-DRAM)以及定制 HBM 阵列。其中,CXL 上的 KV 缓存卸载在原本只有 HBM 与 DRAM 的 AI 内存层级中增加了一个 CXL 内存池:即将使用的 KV 缓存优先放在 HBM 与 DRAM,稍后才调用的则留在 CXL 内存池;存放位置依据复用频率、最近使用时间、数据大小和恢复成本等因素综合决定,因此其收益不止于容量增加,还能随需求变化重新分配资源、让多台主机共享容量。SK 海力士与正在推进 AI 数据中心业务的 SK 电信合作,已在真实 LLM 推理环境中完成验证,并在展会现场以演示视频呈现效率提升。
存内计算 DRAM 则利用 DRAM 单元阵列固有的电荷共享行为,在内存内部完成计算:借助 DRAM 一次激活数千至数万比特行的结构,通过行间数据复制与多行同时激活来并行处理比特级运算。由于直接使用商用 DRAM,这条路线在产业化上具备现实基础。
从产业视角看,SK 海力士此番展示的重点不只是单颗内存芯片的规格,而是把内存从“配套部件”提升为系统架构的中心。随着 AI 推理规模扩大,KV 缓存等中间数据对容量与带宽的消耗快速上升,单纯依靠 HBM 堆叠已难以兼顾成本与效率,CXL 池化与分层管理因此成为业界探索的方向。若 MARS 这类机架级方案与存内计算逐步成熟,内存厂商在 AI 数据中心中的话语权有望进一步上升,同时也会带动 CXL 控制器、服务器互连与系统集成等环节的协同演进。不过,这些技术多处于演示与验证阶段,其大规模商用节奏仍取决于生态配套与客户采用情况。