OpenAI表示,其自研Jalapeño推論晶片在700瓦功耗條件下,於兩項AI推論基準測試中擊敗Nvidia輝達GB300, 並計畫在2026年稍晚正式導入,以降低營運成本並提升回應速度。
重點整理:
- OpenAI稱Jalapeño在測試中於「每單位功耗吞吐量」與「回應速度」兩大指標領先輝達GB300。
- 這顆700瓦推論晶片鎖定資料中心應用,目標是在提供更快AI服務的同時壓低營運成本。
- Jalapeño並非為模型訓練而生,也尚未與輝達較新一代的Vera Rubin系列比較。
OpenAI基準測試結果
OpenAI在聲明中指出, 自家客製化Jalapeño處理器在測試中,於「每單位功耗可完成的AI運算量」與「回應輸出速度」兩項關鍵指標上, 表現優於輝達GB300。
OpenAI晶片業務負責人**Richard Ho(何瑞哲)**表示,Jalapeño兼具高吞吐量與低延遲, 未來有望讓客戶在選擇模型時,可以依需求在「壓低成本」與「追求極速回應」之間做更細緻的權衡。
根據Ho說法,Jalapeño與Broadcom共同開發,並在700瓦運作功耗下達成上述成績。 對大型資料中心而言,電力成本是整體營運支出中的關鍵項目之一。
延伸閱讀: RWA 市場暴增 48.7%,但幾乎全靠一檔代幣撐起
輝達仍是關鍵供應商
這次對比也有明顯限制。
Jalapeño並未與輝達已開始出貨的更新一代Vera Rubin系列晶片同場測試, 且OpenAI這顆晶片鎖定的是推論(inference)應用,而非模型訓練(training)。 在高階訓練市場,輝達依舊是OpenAI的重要供應夥伴。
OpenAI同時也採用Cerebras Systems技術處理部分推論工作負載,特別是較小型模型; Ho指出,Jalapeño則可支援更大規模的模型。他表示:「我們對運算資源的需求實在太龐大。」
公開測試中,OpenAI使用了一款自家較小型的開源模型, 並搭配DeepSeek與Moonshot AI的模型做比對,其中在Moonshot較大型的Kimi模型上, Jalapeño的優勢更為明顯。第二代版本的研發已相當接近定案,預計數月內完成tape-out, 同時OpenAI也已著手進行第三代架構的概念設計。
這顆晶片延續了OpenAI與Broadcom在6月24日宣布的合作進度。 當時雙方表示,在OpenAI自家模型輔助下,Jalapeño從設計到完成製造tape-out僅花九個月時間, 那是第一代產品。





