在AI引發的記憶體短缺似乎看不到盡頭之際,AMD給出了一個頗具反諷意味的答案:用AI來緩解AI造成的困境。本週,這家晶片巨頭宣佈收購預測性記憶體初創公司Mext,交易金額未對外披露。Mext的核心技術在於利用機器學習,智慧判斷哪些資料該留在昂貴的DRAM中,哪些可以暫時“冷藏”到成本低得多的快閃記憶體裡,從而在不顯著犧牲效能的前提下,大幅擴充套件系統的有效記憶體容量。
Mext成立於2023年,其主動式記憶體平台通過執行一個名為Mextd的後台守護程序,將快閃記憶體空間直接暴露給作業系統,如同常規記憶體一般使用。該平台並非依賴單一模型進行決策,而是混合運用了多種技術——包括一系列啟發式規則、長短期記憶網路以及現代Transformer架構——根據實際效果動態選擇最優組合。Mext聲稱,這套方案能將系統的有效記憶體擴充套件2到4倍,而按每GB成本計算,快閃記憶體仍遠低於DRAM。
記憶體分層並非全新概念,多年來業界已有多種嘗試,包括純軟體方案以及英特爾與美光聯合開發的3D XPoint傲騰持久記憶體等專用硬體。但Mext的差異化在於其對機器學習的深度應用:它幾乎像CPU中的分支預測器一樣,預測資料的訪問模式,提前將“冷”資料遷移到快閃記憶體,並在系統需要之前將其恢復。AMD在分支預測領域積累深厚,這或許也是其看中Mext的原因之一。
AMD計算與企業AI業務高階副總裁Dan McNamara在一篇博文中表示,這種方法有潛力降低基礎設施成本、改善資源利用率,並幫助客戶更有效地擴充套件通用和AI工作負載。這直接回應了當前AI產業的一大痛點:隨著大模型引數規模膨脹,對HBM等高頻寬記憶體的需求激增,導致記憶體成本在AI伺服器總成本中佔比不斷攀升。通過軟體智慧減少對昂貴記憶體的依賴,無疑為控制AI基礎設施總擁有成本提供了一條新路徑。
除了企業級應用,這項技術對AI推理環節可能具有更深遠的影響。現代混合專家模型由多個子模型組成,在生成每個token時,只會啟用其中一部分專家。實踐中,某些專家被頻繁呼叫,而另一些則很少被使用。有分析推測,AMD未來可能利用Mext的預測演算法,將那些不常用的專家模組從昂貴的HBM解除安裝到速度較慢但容量更大的系統記憶體中,使企業能夠以更少的硬體資源執行更大、能力更強的模型。當然,這目前仍屬業界猜測,AMD尚未就此置評。
從產業格局看,這筆收購反映了晶片廠商競爭維度的擴充套件。在製程工藝逼近物理極限、單純堆疊電晶體越來越不經濟的背景下,通過系統級軟體最佳化來提升硬體利用效率,正成為差異化競爭的新戰場。AMD此舉不僅是對自身產品線的補充,也可能對整個資料中心記憶體架構的演進方向產生影響。如果基於AI預測的記憶體分層技術走向成熟,或將重新定義伺服器中DRAM與快閃記憶體的配比邏輯,進而影響記憶體產業鏈上下游的需求結構。