OpenAI 指出,其自家開發的 Jalapeño 推理晶片在 700 瓦功耗下,於兩項推理基準測試中擊敗 Nvidia GB300,計劃於 2026 年稍後時間投入更大規模部署,以壓低運算成本並加快 AI 回應速度。
重點摘要:
- OpenAI 稱 Jalapeño 在測試中於「每單位功耗吞吐量」及「回應延遲」上領先 Nvidia GB300。
- 這枚 700 瓦推理晶片,旨在在加快服務 AI 模型同時,降低數據中心營運成本。
- Jalapeño 並非為模型訓練而設,亦未與 Nvidia 較新一代 Vera Rubin 晶片正面對比。
OpenAI 基準測試細節
OpenAI 在一份聲明中表示,其客製化 Jalapeño 處理器在測試中,於兩大指標上勝過 Nvidia GB300:一是每單位功耗可完成的 AI 工作量,二是系統回應結果的速度。
OpenAI 晶片業務主管 Richard Ho 指出,Jalapeño 將高吞吐量與低延遲結合,未來可讓客戶按需要選擇偏向「壓低成本」或「極速回應」取向的模型方案。
Ho 稱,Jalapeño 與 Broadcom 合作研發,在 700 瓦功耗下達到上述測試表現。功耗一直是數據中心最大成本之一,能源效益成為關鍵競爭點。
延伸閱讀:RWA 市場飆升 48.7%,但幾乎全由一枚代幣帶動
Nvidia 仍是關鍵供應商
是次比較亦有其限制。
Jalapeño 並未與 Nvidia 已開始出貨的最新一代 Vera Rubin 晶片作對比;此外,OpenAI 晶片是為推理(inference)場景設計,而非承擔大型模型訓練工作。Nvidia 仍然是 OpenAI 的關鍵晶片供應商之一。
除自家方案外,OpenAI 亦有使用 Cerebras Systems 技術處理部分推理工作,特別是較小型模型;Ho 表示,Jalapeño 則可承載更大模型。他坦言:「我們對算力的需求實在太大。」
公開測試方面,OpenAI 使用了一款自家規模較細的開源模型,同時加入 DeepSeek 及 Moonshot AI 的模型作比較;Jalapeño 的優勢在 Moonshot 較大型的 Kimi 模型上更為明顯。Ho 又透露,第二代晶片研發已進入後期,預期數月內完成 tape-out(定版流片),而第三代方案亦已展開概念設計工作。
Jalapeño 晶片是繼 OpenAI 與 Broadcom 於 6 月 24 日公布合作後的進一步落實。當時雙方表示,在 OpenAI 模型輔助設計下,Jalapeño 第一代晶片由構思到完成製造用的 tape-out 僅耗時九個月,顯示開發節奏明顯加快。





