OpenAI 自研的 Jalapeño ASIC 在内部机架级部署中,选择搭配 AMD EPYC Turin CPU 作为主机,每颗 Turin 配备 1.5TB 内存。OpenAI 硬件副总裁兼硬件负责人 Richard Ho 在接受 Tom's Hardware 采访时确认了这一搭配,并解释称这一决定是「务实」的,同时形容英伟达新推出的 Vera CPU 在成熟度上「稍显落后」。

Ho 表示,Jalapeño 项目的设计思路核心是降低风险并快速推进。他提到,Vera 作为独立产品在成熟度上还差一些,而 Turin 表现强劲,满足了 OpenAI 的需求,部分合作伙伴也对 Turin 有使用经验。他强调,团队希望在性能和成本目标上保持进取,但不愿承担不必要的风险,因此选择 Turin 是符合其设计决策框架的合理决定。

这一选型之所以引人关注,是因为 OpenAI 与英伟达关系密切,而 Turin 属于 x86 阵营,与英伟达力推的 Arm 架构 Vera 形成对照。当前市场上已有多种 Arm 架构 CPU 被各超大规模云厂商内部部署,例如 Google Cloud 的 Axiom 和 AWS 的 Graviton。而 Vera 与 Arm 自家的 AGI 被描述为「代理型 CPU」,据称相比 AMD 和英特尔的 x86 竞品,能加速代理循环中涉及的复杂推理。

Arm 长期宣传 AArch64 指令集相对 x86 的优势,甚至声称其 AGI CPU 性能是现代 x86 平台的两倍以上。但这一说法基于内部估算,而非真实基准测试。尽管 Arm 对 AGI 的市场采用持乐观态度,并已获得 20 亿美元的承诺订单,分析师仍认为两年后其市场渗透率将处于低个位数百分比。英伟达则宣称 Vera 领先幅度最高达 1.8 倍,但这一数字来自将 SPEC CPU 2026 总分按核心数拆分后的结果;从整体得分看,Vera 仅领先 3%。

随着今年服务器 CPU 需求爆发以及代理型工作负载的演进,英伟达在宣传上走在前列,将其基于 Arm 的 Vera 与 x86 竞品对比,大胆声称比 AMD 的 Turin 芯片提升 1.8 倍。然而,该数字取自一个整体基准测试套件,其中 Vera 对 AMD EPYC 9755 的领先实际仅为 3%。从 Graviton 到 Azure 的 Cobalt,许多半定制 Arm 设计一直聚焦于云工作负载的核心密度和能效,而 Vera 和 AGI 则转向了峰值性能的宣传路线。在早期的 Vera 基准测试中,英伟达的 CPU 表现令人印象深刻,但该芯片尚未在广泛的工作负载中得到验证,更不用说与 AMD 即将推出的 Venice CPU 或英特尔的 Diamond Rapids 进行基准对比。

OpenAI 选择 Turin 的有趣之处在于,它既是 Arm AGI 的部署合作伙伴之一,也在英伟达所称「探索 Vera CPU」的客户名单上。OpenAI、其他前沿实验室和超大规模云厂商的硬件 fleet 中通常保有多种硬件。将 Jalapeño 专门与 Turin 搭配,归根结底是为了降低风险,Ho 指出平台成熟度是关键因素。

从更广的视角看,x86_64 比 AArch64 更为成熟。Arm 架构自 1980 年代中期就已存在,但真正的 64 位扩展比 x86 晚了 12 年才出现。尽管 Arm 在过去二十年中逐步打入数据中心,但 x86 的基础仍然深厚得多,可追溯数十年。不过,Ho 的评论似乎并非专门针对 AArch64 与 x86 的界限,而是聚焦于 Turin 与 Vera 之间的动态——后者是英伟达首次涉足数据中心定制 CPU 核心。尽管 Vera 的早期基准测试令人印象深刻,但对 OpenAI 的机架级 Jalapeño 部署而言,它仍代表着不必要的风险。Ho 关于合作伙伴对 Turin 有经验的评论,也透露出硬件团队的考量所在。

在主机系统的可维护性方面,Turin 与 Vera 存在一些实际差异。最明显的是,Vera 是板载焊接,而 Turin 芯片采用插槽式设计;虽然在服务器中更换芯片并不常见,但 Turin 的操作更为容易。鉴于 OpenAI 拥有多种硬件可用,未来 Jalapeño 有可能搭配不同的主机系统部署,或许会与 Arm 的 AGI 或英伟达的 Vera 配对。但就目前而言,Turin 是合适的选择。