OpenAI 硬件副总裁 Richard Ho 近日进一步披露了公司首款自研推理芯片 Jalapeño 的设计理念与落地路线。他强调,这款芯片的出发点并非追逐极致的峰值性能,而是针对数据中心当前最现实的约束——算力与供电受限。通过提升推理效率,OpenAI 希望压低每次运算的成本,并直接改善 ChatGPT、Codex 以及各类 AI 代理服务的响应速度与延迟。

Ho 将 Jalapeño 的诞生归因于 OpenAI 内部的「全端协同设计」。在这一机制下,研究人员与硬件团队可以密切配合,在模型、软件与硬件架构之间做出取舍,这是传统第三方芯片供应商较难复制的优势。他同时澄清,OpenAI 走向自研并非对市售芯片不满,而是希望把内部最前沿的研究与硬件设计结合起来,为推理工作负载量身打造方案。

针对外界关于 Jalapeño 是「只为 OpenAI 自家模型服务」的猜测,Ho 予以反驳。他表示,团队特意选用 SemiAnalysis 的 InferenceX 基准测试,正是为了证明这款芯片在运行各类开源模型与 Transformer 架构时仍能保持顶尖性能。此外,芯片具备较高的可编程弹性,团队在拿到实体芯片后,仅用约两个月就完成了各项测试与公开展示。

在技术细节上,Ho 透露 Jalapeño 的硬件其实已经内置投机解码功能。此前测试数据中未见披露,只是因为准备时间仓促,来不及为基准测试训练专用的草稿模型。他进一步预告,未来将逐步导入多 Token 预测技术,预计可为 OpenAI 内部模型带来高达 3 到 5 倍的性能飞跃。

量产与上线节奏方面,Jalapeño 会先以小规模投入实际生产环境进行验证,真正的大规模部署则锁定在 2027 年。Ho 也坦言,由于 OpenAI 自身的算力需求正处于爆发性增长,短期内这款芯片将全部用于支撑内部生态,暂时没有余裕向外部客户供货。

供应链层面,Ho 表示 OpenAI 已提前与晶圆代工厂及零组件供应商展开布局。尽管当前整体供应链产能吃紧,但相关准备仍在预期之内。他最后强调,OpenAI 的最终目标是「降低整体基础设施成本」,因此未来仍会持续评估市面上所有优质芯片方案;只要能用更低成本换取更好性能,OpenAI 依然会采取多元硬件平台并行的策略,灵活采用外部供应商的产品。

从产业视角看,Jalapeño 的定位折射出 AI 推理需求正在成为数据中心成本结构的核心变量。训练侧的高峰需求之外,推理侧的持续算力消耗与电力约束,正推动头部模型公司从「买芯片」转向「定义芯片」。OpenAI 选择以推理专用、可编程、兼容开源模型为卖点,既是对自身工作负载的优化,也是在为未来与外部芯片供应商的谈判保留筹码。

值得注意的是,OpenAI 并未把自研芯片描述为对现有供应商的替代。Ho 明确表示会继续评估外部方案、维持多平台并行,这意味着短期内 Jalapeño 更多是补充而非颠覆。其真正的考验在于 2027 年规模部署时,能否在真实生产环境中兑现效率与成本承诺,以及供应链能否跟上产能节奏。对关注 AI 产业链的读者而言,这条路线图的推进速度,将影响推理芯片市场的竞争格局与代工产能的分配走向。