OpenAI 硬體副總裁 Richard Ho 近日進一步披露了公司首款自研推理晶片 Jalapeño 的設計理念與落地路線。他強調，這款晶片的出發點並非追逐極致的峰值效能，而是針對資料中心當前最現實的約束——算力與供電受限。通過提升推理效率，OpenAI 希望壓低每次運算的成本，並直接改善 ChatGPT、Codex 以及各類 AI 代理服務的響應速度與延遲。
Ho 將 Jalapeño 的誕生歸因於 OpenAI 內部的「全端協同設計」。在這一機制下，研究人員與硬體團隊可以密切配合，在模型、軟體與硬體架構之間做出取捨，這是傳統第三方晶片供應商較難複製的優勢。他同時澄清，OpenAI 走向自研並非對市售晶片不滿，而是希望把內部最前沿的研究與硬體設計結合起來，為推理工作負載量身打造方案。
針對外界關於 Jalapeño 是「只為 OpenAI 自家模型服務」的猜測，Ho 予以反駁。他表示，團隊特意選用 SemiAnalysis 的 InferenceX 基準測試，正是為了證明這款晶片在執行各類開源模型與 Transformer 架構時仍能保持頂尖效能。此外，晶片具備較高的可程式設計彈性，團隊在拿到實體晶片後，僅用約兩個月就完成了各項測試與公開展示。
在技術細節上，Ho 透露 Jalapeño 的硬體其實已經內建投機解碼功能。此前測試資料中未見披露，只是因為準備時間倉促，來不及為基準測試訓練專用的草稿模型。他進一步預告，未來將逐步匯入多 Token 預測技術，預計可為 OpenAI 內部模型帶來高達 3 到 5 倍的效能飛躍。
量產與上線節奏方面，Jalapeño 會先以小規模投入實際生產環境進行驗證，真正的大規模部署則鎖定在 2027 年。Ho 也坦言，由於 OpenAI 自身的算力需求正處於爆發性增長，短期內這款晶片將全部用於支撐內部生態，暫時沒有餘裕向外部客戶供貨。
供應鏈層面，Ho 表示 OpenAI 已提前與晶圓代工廠及零元件供應商展開佈局。儘管當前整體供應鏈產能吃緊，但相關準備仍在預期之內。他最後強調，OpenAI 的最終目標是「降低整體基礎設施成本」，因此未來仍會持續評估市面上所有優質晶片方案；只要能用更低成本換取更好效能，OpenAI 依然會採取多元硬體平台並行的策略，靈活採用外部供應商的產品。
從產業視角看，Jalapeño 的定位折射出 AI 推理需求正在成為資料中心成本結構的核心變數。訓練側的高峰需求之外，推理側的持續算力消耗與電力約束，正推動頭部模型公司從「買晶片」轉向「定義晶片」。OpenAI 選擇以推理專用、可程式設計、相容開源模型為賣點，既是對自身工作負載的最佳化，也是在為未來與外部晶片供應商的談判保留籌碼。
值得注意的是，OpenAI 並未把自研晶片描述為對現有供應商的替代。Ho 明確表示會繼續評估外部方案、維持多平台並行，這意味著短期內 Jalapeño 更多是補充而非顛覆。其真正的考驗在於 2027 年規模部署時，能否在真實生產環境中兌現效率與成本承諾，以及供應鏈能否跟上產能節奏。對關注 AI 產業鏈的讀者而言，這條路線圖的推進速度，將影響推理晶片市場的競爭格局與代工產能的分配走向。