8月4日,軟體定義記憶體和GPU池化基礎設施提供商Liqid宣佈,成為美國能源部太平洋西北國家實驗室(PNNL)Abaco系統的戰略技術合作夥伴。Abaco是由美光(Micron)設計的以記憶體為中心的計算機系統,美光是PNNL的分包商。Liqid為該系統提供擴充套件記憶體池,使PNNL能夠為資料密集型AI科學工作負載提供數百TB的相干活動記憶體。
Abaco系統旨在解決長期困擾科學計算的記憶體牆問題。傳統架構下,計算化學、分子生物學和AI驅動模擬等應用受限於單機記憶體容量。Abaco採用CXL(Compute Express Link)技術實現記憶體池化和共享,打破單伺服器容量限制,支援大規模AI工作負載。Liqid提供業界首個完全解耦的軟體定義記憶體池化解決方案,在機架級配置中,可將高達160TB的DRAM分配給單個主機,或動態分配給多達16個伺服器節點。
Liqid為PNNL提供的關鍵元件包括:EX-5410C記憶體平台,基於CXL 2.0,單機箱支援最高40TB DRAM,可擴充套件至超過160TB的統一記憶體池;Liqid Matrix軟體,作為編排管理層,提供統一介面,支援即時部署和管理可組合的GPU、記憶體和儲存,並與Kubernetes、Slurm、Ansible等科學計算工具整合;CXL 2.0 Fabric,包括專用交換機和主機匯流排介面卡,提供超低延遲、高頻寬連線。
Liqid與美光還合作實現了業界首個支援真正記憶體共享的架構。美光的famfs Linux核心增強支援跨系統的高階記憶體共享,具備軟體快取一致性,使解耦記憶體池以檔案系統形式暴露給主機作業系統,無需修改應用層即可利用池化記憶體的低延遲和高頻寬優勢。
在Abaco系統中,使用美光高容量RDIMM和famfs核心的基準測試顯示,圖分析工作負載的處理時間提升高達30倍,某些KV快取工作負載的每秒token數提升高達7倍,驗證了CXL記憶體池化在AI和科學計算中的潛力。Liqid創始人兼技術長Sumit Puri表示,PNNL證明了可組合CXL記憶體在科學前沿的價值,Liqid很榮幸能提供規模、編排和可組合性,將池化記憶體變成可程式設計資源。
PNNL將利用Abaco推進AI for Science,首個使用者工作負載是AI整合的計算化學。通過Liqid的CXL記憶體結構擴充套件池化記憶體,系統可將更大結構、更大引數空間和更重的中間資料保留在活動記憶體中,直接解決歷史上限制科學AI的記憶體瓶頸。PNNL的測試平台通過AMAIS計劃向DOE資助的國家實驗室和學術界研究人員開放,該計劃由DOE科學辦公室的先進科學計算研究專案資助。
Liqid表示,其解決方案可幫助客戶實現最高100%的記憶體和GPU利用率,最大化每瓦token、每美元token和每秒token。此次合作展示了CXL記憶體池化在國家級科研環境中的實際應用,為AI基礎設施領域提供了重要參考。