OpenAI 表示,其自家開發的 Jalapeño 推理晶片在兩項基準測試中擊敗 Nvidia 的 GB300, 並在 700 瓦功耗下運行,計劃於 2026 年稍後開始部署,以壓低營運成本並縮短 AI 回應時間。
重點摘要:
- OpenAI 指出,測試顯示 Jalapeño 在「每單位功率吞吐量」及「回應速度」兩大指標上領先 Nvidia GB300。
- 這款 700 瓦推理晶片主打降低數據中心成本,同時更快向用戶送達 AI 回應。
- Jalapeño 並非為模型訓練而設,亦未有與 Nvidia 更新一代 Vera Rubin 系列直接對比。
OpenAI 基準測試細節
OpenAI 在接受 報道 時表示, 其度身訂造的 Jalapeño 晶片在兩項關鍵測試中表現優於 Nvidia GB300: 一是每單位功率可處理的 AI 工作量,二是輸出回應的速度。
OpenAI 晶片負責人 Richard Ho 指出,Jalapeño 將高吞吐量與低延遲結合, 有望讓客戶按需要在「更低成本」與「更快回應」之間作出取捨與調整。
Jalapeño 與 Broadcom 合作研發。Ho 表示,該晶片在 700 瓦功耗水平下已達到上述測試成績, 而電力開支一向是數據中心的主要成本之一。
延伸閱讀: RWA 市場飆升 48.7%,但幾乎全由一款代幣帶動
Nvidia 的位置與比較限制
是次比較存在明顯限制。
首先,Jalapeño 並未對標 Nvidia 已開始出貨的最新一代 Vera Rubin 系列; 其次,OpenAI 這款晶片是專為推理(inference)工作負載設計,而非用作大型模型訓練。 在高階訓練市場上,Nvidia 仍然是 OpenAI 的關鍵供應商之一。
OpenAI 亦同時採用 Cerebras Systems 技術處理部分推理工作,特別是規模較小的模型; Ho 指 Jalapeño 則可負責更大型的模型。他說:「我們對運算資源的需求實在太大。」
公開測試方面,OpenAI 使用了一款自家較小型的開源模型, 再配合 DeepSeek 和 Moonshot AI 的模型進行對比, 當中 Jalapeño 的優勢在 Moonshot 體量較大的 Kimi 模型上更為明顯。
Ho 又透露,第二代 Jalapeño 已開發至相當後期階段,預計數月內完成流片(tape-out), 同時 OpenAI 已經著手構思第三代架構。
這款晶片延續了 OpenAI 早前與 Broadcom 合作的進程: 兩家公司於 6 月 24 日公布,首代 Jalapeño 在 OpenAI 模型協助下, 僅用九個月就由設計走到製造流片階段。

