8月4日,软件定义内存和GPU池化基础设施提供商Liqid宣布,成为美国能源部太平洋西北国家实验室(PNNL)Abaco系统的战略技术合作伙伴。Abaco是由美光(Micron)设计的以内存为中心的计算机系统,美光是PNNL的分包商。Liqid为该系统提供扩展内存池,使PNNL能够为数据密集型AI科学工作负载提供数百TB的相干活动内存。
Abaco系统旨在解决长期困扰科学计算的内存墙问题。传统架构下,计算化学、分子生物学和AI驱动模拟等应用受限于单机内存容量。Abaco采用CXL(Compute Express Link)技术实现内存池化和共享,打破单服务器容量限制,支持大规模AI工作负载。Liqid提供业界首个完全解耦的软件定义内存池化解决方案,在机架级配置中,可将高达160TB的DRAM分配给单个主机,或动态分配给多达16个服务器节点。
Liqid为PNNL提供的关键组件包括:EX-5410C内存平台,基于CXL 2.0,单机箱支持最高40TB DRAM,可扩展至超过160TB的统一内存池;Liqid Matrix软件,作为编排管理层,提供统一接口,支持实时部署和管理可组合的GPU、内存和存储,并与Kubernetes、Slurm、Ansible等科学计算工具集成;CXL 2.0 Fabric,包括专用交换机和主机总线适配器,提供超低延迟、高带宽连接。
Liqid与美光还合作实现了业界首个支持真正内存共享的架构。美光的famfs Linux内核增强支持跨系统的高级内存共享,具备软件缓存一致性,使解耦内存池以文件系统形式暴露给主机操作系统,无需修改应用层即可利用池化内存的低延迟和高带宽优势。
在Abaco系统中,使用美光高容量RDIMM和famfs内核的基准测试显示,图分析工作负载的处理时间提升高达30倍,某些KV缓存工作负载的每秒token数提升高达7倍,验证了CXL内存池化在AI和科学计算中的潜力。Liqid创始人兼首席技术官Sumit Puri表示,PNNL证明了可组合CXL内存在科学前沿的价值,Liqid很荣幸能提供规模、编排和可组合性,将池化内存变成可编程资源。
PNNL将利用Abaco推进AI for Science,首个用户工作负载是AI集成的计算化学。通过Liqid的CXL内存结构扩展池化内存,系统可将更大结构、更大参数空间和更重的中间数据保留在活动内存中,直接解决历史上限制科学AI的内存瓶颈。PNNL的测试平台通过AMAIS计划向DOE资助的国家实验室和学术界研究人员开放,该计划由DOE科学办公室的先进科学计算研究项目资助。
Liqid表示,其解决方案可帮助客户实现最高100%的内存和GPU利用率,最大化每瓦token、每美元token和每秒token。此次合作展示了CXL内存池化在国家级科研环境中的实际应用,为AI基础设施领域提供了重要参考。