在今年的 AMD Advancing AI 大會上，AMD 半正式釋出了 Helios 機架，並首次深入披露了其架構細節。Helios 是 AMD 將 CPU、GPU、DPU/NIC 以及 ZT Systems 工程能力整合於一體的產品，旨在構建超越單伺服器規模的計算裝置，即所謂的“機架級系統”（rackscale systems）。
機架級系統正日益成為資料中心 AI 硬體的骨幹，因為 AI 工作負載在算力和記憶體容量上已超出單台伺服器的承載能力。這類系統通過將多台伺服器、多種型別的伺服器叢集化，使其作為一個連貫的單一機器執行。這一計算範式在一定程度上幫助 AMD 的競爭對手輝達在 GPU 計算領域佔據了優勢。
機架級系統的技術原理並不複雜，更簡單的超級計算機叢集早已存在，但實現起來卻並非易事。一個機架級 AI 系統不僅需要 CPU 和 GPU 來編排和處理資料，還需要高效能的互連結構（fabric）將這些系統連線起來。在這方面，最大的進步是將此類互連結構整合到 GPU 中，並設計網路硬體來擴充套件（scale up）這些結構，以連線機架內的其他節點。
AMD 在 2022 年收購 Pensando 後，時隔四年，所有拼圖終於到位，使其得以推出首款真正的機架級系統 Helios。Helios 結合了 AMD EPYC 9006 “Venice” CPU、Instinct MI455X GPU 以及 Pensando NIC/DPU，是 AMD 的旗艦級技術成就。Helios 對 AMD 在技術和商業層面的重要性難以估量，該公司已為此宣傳了一年多。如今，Helios 及其組成部分終於投入生產，AMD 在 Advancing AI 大會上對其 scale-up 架構進行了迄今最深入的剖析。
從硬體規格來看，Helios 的出貨規格與 AMD 最初的預期非常接近。該系統配備 72 顆 GPU，提供 2.9 EFLOPS 的峰值 MXFP4 計算效能。每顆 GPU 搭配 432GB HBM4 記憶體，頻寬為 23.3TB/秒，整個機架系統累計提供 31TB HBM4 記憶體，總記憶體頻寬達 1.7PB/秒。後者與 AMD 最初預期差異最大：每顆 MI455X GPU（以及整個機架）的頻寬比原計劃高出約 21%。記憶體頻寬仍是 AI 推理的主要瓶頸之一，這一提升對 AMD 及其客戶而言都將是好訊息。
在網路方面，Helios 提供一系列網路連線，既包括機架內的 scale-up 網路，也包括用於將多個 Helios 機架叢集的 scale-out 網路。scale-up 域在節點間提供高達 260TB/秒的累計網路頻寬，而 scale-out 域則提供 43TB/秒的頻寬。從歷史角度看，這些數字對於單個機架而言相當龐大。
Helios 的釋出標誌著 AMD 正式進入機架級 AI 系統市場，與輝達的 DGX 系列等產品展開直接競爭。對於 AI 產業投資者而言，這不僅是 AMD 技術實力的體現，也意味著 AI 算力基礎設施的競爭格局正在從單一晶片向整機架系統延伸。AMD 通過整合 CPU、GPU、網路晶片和系統整合能力，試圖在 AI 資料中心領域建立更完整的生態系統，這可能對輝達的市場主導地位構成挑戰。