在今年的 AMD Advancing AI 大会上，AMD 半正式发布了 Helios 机架，并首次深入披露了其架构细节。Helios 是 AMD 将 CPU、GPU、DPU/NIC 以及 ZT Systems 工程能力整合于一体的产品，旨在构建超越单服务器规模的计算设备，即所谓的“机架级系统”（rackscale systems）。

机架级系统正日益成为数据中心 AI 硬件的骨干，因为 AI 工作负载在算力和内存容量上已超出单台服务器的承载能力。这类系统通过将多台服务器、多种类型的服务器集群化，使其作为一个连贯的单一机器运行。这一计算范式在一定程度上帮助 AMD 的竞争对手英伟达在 GPU 计算领域占据了优势。

机架级系统的技术原理并不复杂，更简单的超级计算机集群早已存在，但实现起来却并非易事。一个机架级 AI 系统不仅需要 CPU 和 GPU 来编排和处理数据，还需要高性能的互连结构（fabric）将这些系统连接起来。在这方面，最大的进步是将此类互连结构集成到 GPU 中，并设计网络硬件来扩展（scale up）这些结构，以连接机架内的其他节点。

AMD 在 2022 年收购 Pensando 后，时隔四年，所有拼图终于到位，使其得以推出首款真正的机架级系统 Helios。Helios 结合了 AMD EPYC 9006 “Venice” CPU、Instinct MI455X GPU 以及 Pensando NIC/DPU，是 AMD 的旗舰级技术成就。Helios 对 AMD 在技术和商业层面的重要性难以估量，该公司已为此宣传了一年多。如今，Helios 及其组成部分终于投入生产，AMD 在 Advancing AI 大会上对其 scale-up 架构进行了迄今最深入的剖析。

从硬件规格来看，Helios 的出货规格与 AMD 最初的预期非常接近。该系统配备 72 颗 GPU，提供 2.9 EFLOPS 的峰值 MXFP4 计算性能。每颗 GPU 搭配 432GB HBM4 内存，带宽为 23.3TB/秒，整个机架系统累计提供 31TB HBM4 内存，总内存带宽达 1.7PB/秒。后者与 AMD 最初预期差异最大：每颗 MI455X GPU（以及整个机架）的带宽比原计划高出约 21%。内存带宽仍是 AI 推理的主要瓶颈之一，这一提升对 AMD 及其客户而言都将是好消息。

在网络方面，Helios 提供一系列网络连接，既包括机架内的 scale-up 网络，也包括用于将多个 Helios 机架集群的 scale-out 网络。scale-up 域在节点间提供高达 260TB/秒的累计网络带宽，而 scale-out 域则提供 43TB/秒的带宽。从历史角度看，这些数字对于单个机架而言相当庞大。

Helios 的发布标志着 AMD 正式进入机架级 AI 系统市场，与英伟达的 DGX 系列等产品展开直接竞争。对于 AI 产业投资者而言，这不仅是 AMD 技术实力的体现，也意味着 AI 算力基础设施的竞争格局正在从单一芯片向整机架系统延伸。AMD 通过整合 CPU、GPU、网络芯片和系统集成能力，试图在 AI 数据中心领域建立更完整的生态系统，这可能对英伟达的市场主导地位构成挑战。