在 8 月 24 日的 Hot Chips 2026 會議上，AMD 登台詳細介紹了其下一代 Instinct MI400 系列 GPU 架構，重點展示了 MI455X 晶片的設計細節，以及它將如何驅動公司此前宣傳的 Helios 機架級系統。這是 AMD 在 AI 加速器市場與輝達競爭的關鍵一步，其軟體棧 ROCm 的改進也備受關注。
AMD 在開場演講中提出，AI 工作負載正從單一模型訓練擴充套件到前沿訓練、企業微調和持續推理的混合模式。他們展示的規模曲線顯示，從 2017 年約 6500 萬引數的 Transformer，到 2023 年約萬億引數的 GPT-4 級模型，再到 AMD 預計今年將出現的超過 10 萬億引數的智慧體與推理模型，基礎設施必須跟上模型規模的增長速度。
圍繞 Helios 機架，AMD 給出了幾個關鍵數字：一個機架包含 72 個 GPU，提供 2.9 exaflops 算力、31 TB 的 HBM4 記憶體和 1.7 PB/s 的 HBM4 頻寬，同時具備 260 TB/s 的 scale-up 和 43 TB/s 的 scale-out 頻寬。此前 AMD 已展示過雙寬 Helios 機架，這次則填補了其背後矽片的細節。
Helios 的基本構建塊是一個計算托盤，集成了計算、主機 CPU、記憶體和網路。每個托盤包含四個 AMD Instinct MI455X 加速器，由單插槽 AMD EPYC 9006 SP7 伺服器 CPU 通過 Infinity Fabric 連線，每個 GPU 通過 UALoE 連結提供 1.8 TB/s 的 scale-up 流量，並配備最多三個 AMD Pensando Vulcano 800 AI 網絡卡用於 scale-out。
MI455X 採用增強的模組化芯粒設計，由 8 個 N2 工藝的計算芯粒 組成，周圍是 N3P 工藝的 fabric、快取和 I/O 芯粒，並使用 CoWoS-L 封裝。整個封裝集成了 12 個 HBM4 堆疊，總容量 432GB，頻寬 23.3 TB/s，同時支援 PCIe Gen 6 和 72 條 UALoE 通道，提供 3.6 TB/s 的頻寬。這種封裝方式讓每種芯粒都能選擇最適合的工藝節點，計算芯粒採用 N2 並配合 3D 混合鍵合，以提升每瓦效能密度。
與上一代 MI355X 相比，MI455X 在快取和記憶體上大幅升級。AMD 將每 SIMD 向量暫存器和每 WGP 本地資料共享翻倍，並引入 4 MB L2 廣播仲裁器，可將頻寬放大至 4 倍。主記憶體從 288GB HBM3E 增至 432GB HBM4，容量提升 1.5 倍，總 HBM 頻寬約為上一代的 2.9 倍。
計算效能方面，MI455X 的峰值 MXFP4 算力達到 40.26 petaflops，是 MI355X 的 4 倍；MXFP6 和 MXFP8 均為 20.13 petaflops。向量 FP16 和矩陣/向量 FP32 均達到 315 TF，是上一代的 2 倍，基於 256 WGP 架構。此外，原生 Wave32 執行和新的超越函式引擎旨在降低排程延遲並加速注意力計算。
AMD 還介紹了其採用的 MX 資料格式，從 float64 到 MXFP 系列，共享縮放塊可跨越 16 或 32 個元素，併為 MXFP4 引入了新的分數縮放。4 位張量 LUT 指令允許資料以 4 位儲存，並轉換為 4、6 或 8 位計算格式，以提高效率。
在效率最佳化上，AMD 強調減少資料移動。Tensor Data Mover 可非同步將資料複製到本地 LDS，無需經過暫存器；工作組叢集和 L2 多播減少了 GEMM 和 Flash Attention 等操作的冗餘流量；重新設計的命令處理器降低了排程延遲。AMD 還將資料移動轉移到專用 DMA 引擎，使傳輸與 AI 核心並行執行，並利用拓撲感知的 HBM DMA 自動將流量親和到 UALoE 連結，從而在 72-GPU 結構上均勻分佈負載。
軟體方面，AMD 正努力縮小 ROCm 與 CUDA 的差距，但具體細節在演講中未完全展開。整體來看，MI400 系列是 AMD 在 AI 算力競賽中的一次重要佈局，其 Helios 機架規格直接對標大規模叢集需求，而 MI455X 的規格提升也顯示了 AMD 在硬體設計上的進取心。