OpenAI 自研的 Jalapeño ASIC 在內部機架級部署中,選擇搭配 AMD EPYC Turin CPU 作為主機,每顆 Turin 配備 1.5TB 記憶體。OpenAI 硬體副總裁兼硬體負責人 Richard Ho 在接受 Tom's Hardware 採訪時確認了這一搭配,並解釋稱這一決定是「務實」的,同時形容輝達新推出的 Vera CPU 在成熟度上「稍顯落後」。
Ho 表示,Jalapeño 專案的設計思路核心是降低風險並快速推進。他提到,Vera 作為獨立產品在成熟度上還差一些,而 Turin 表現強勁,滿足了 OpenAI 的需求,部分合作夥伴也對 Turin 有使用經驗。他強調,團隊希望在效能和成本目標上保持進取,但不願承擔不必要的風險,因此選擇 Turin 是符合其設計決策框架的合理決定。
這一選型之所以引人關注,是因為 OpenAI 與輝達關係密切,而 Turin 屬於 x86 陣營,與輝達力推的 Arm 架構 Vera 形成對照。當前市場上已有多種 Arm 架構 CPU 被各超大規模雲廠商內部部署,例如 Google Cloud 的 Axiom 和 AWS 的 Graviton。而 Vera 與 Arm 自家的 AGI 被描述為「代理型 CPU」,據稱相比 AMD 和英特爾的 x86 競品,能加速代理迴圈中涉及的複雜推理。
Arm 長期宣傳 AArch64 指令集相對 x86 的優勢,甚至聲稱其 AGI CPU 效能是現代 x86 平台的兩倍以上。但這一說法基於內部估算,而非真實基準測試。儘管 Arm 對 AGI 的市場採用持樂觀態度,並已獲得 20 億美元的承諾訂單,分析師仍認為兩年後其市場滲透率將處於低個位數百分比。輝達則宣稱 Vera 領先幅度最高達 1.8 倍,但這一數字來自將 SPEC CPU 2026 總分按核心數拆分後的結果;從整體得分看,Vera 僅領先 3%。
隨著今年伺服器 CPU 需求爆發以及代理型工作負載的演進,輝達在宣傳上走在前列,將其基於 Arm 的 Vera 與 x86 競品對比,大膽聲稱比 AMD 的 Turin 晶片提升 1.8 倍。然而,該數字取自一個整體基準測試套件,其中 Vera 對 AMD EPYC 9755 的領先實際僅為 3%。從 Graviton 到 Azure 的 Cobalt,許多半定製 Arm 設計一直聚焦於雲工作負載的核心密度和能效,而 Vera 和 AGI 則轉向了峰值效能的宣傳路線。在早期的 Vera 基準測試中,輝達的 CPU 表現令人印象深刻,但該晶片尚未在廣泛的工作負載中得到驗證,更不用說與 AMD 即將推出的 Venice CPU 或英特爾的 Diamond Rapids 進行基準對比。
OpenAI 選擇 Turin 的有趣之處在於,它既是 Arm AGI 的部署合作伙伴之一,也在輝達所稱「探索 Vera CPU」的客戶名單上。OpenAI、其他前沿實驗室和超大規模雲廠商的硬體 fleet 中通常保有多種硬體。將 Jalapeño 專門與 Turin 搭配,歸根結底是為了降低風險,Ho 指出平台成熟度是關鍵因素。
從更廣的視角看,x86_64 比 AArch64 更為成熟。Arm 架構自 1980 年代中期就已存在,但真正的 64 位擴充套件比 x86 晚了 12 年才出現。儘管 Arm 在過去二十年中逐步打入資料中心,但 x86 的基礎仍然深厚得多,可追溯數十年。不過,Ho 的評論似乎並非專門針對 AArch64 與 x86 的界限,而是聚焦於 Turin 與 Vera 之間的動態——後者是輝達首次涉足資料中心定製 CPU 核心。儘管 Vera 的早期基準測試令人印象深刻,但對 OpenAI 的機架級 Jalapeño 部署而言,它仍代表著不必要的風險。Ho 關於合作伙伴對 Turin 有經驗的評論,也透露出硬體團隊的考量所在。
在主機系統的可維護性方面,Turin 與 Vera 存在一些實際差異。最明顯的是,Vera 是板載焊接,而 Turin 晶片採用插槽式設計;雖然在伺服器中更換晶片並不常見,但 Turin 的操作更為容易。鑑於 OpenAI 擁有多種硬體可用,未來 Jalapeño 有可能搭配不同的主機系統部署,或許會與 Arm 的 AGI 或輝達的 Vera 配對。但就目前而言,Turin 是合適的選擇。