OpenAI披露的内部基准测试显示,在700瓦功耗条件下,其自研推理芯片Jalapeño在两项关键推理指标上击败Nvidia的GB300,并计划于2026年晚些时候大规模部署,以降低算力成本并提升服务响应速度。
关键信息
- OpenAI称,在测试中,Jalapeño在“单位功耗吞吐量”和“响应时延”两项指标上领先英伟达GB300。
- 这款700瓦推理芯片专为降低数据中心运行成本、加快AI模型响应而设计。
- Jalapeño并非用于模型训练,测试中也未与英伟达更新一代Vera Rubin系芯片直接对比。
OpenAI基准测试细节
OpenAI在一份声明中表示,其定制的Jalapeño处理器在“单位能耗可完成的AI推理工作量”和“返回结果所需时间”两项指标上优于英伟达GB300。
OpenAI芯片负责人Richard Ho称,Jalapeño将高吞吐与低时延结合在一起,有望让企业客户在选型时在“成本更低”和“响应更快”的不同模型之间进行权衡选择。
Ho透露,Jalapeño由OpenAI与Broadcom联合开发,测试成绩是在700瓦功耗下取得的。电力成本是数据中心运营支出中的重要组成部分,能效优势意味着潜在的显著成本节约。
延伸阅读:RWA 市场暴涨 48.7%,但几乎全由一枚代币解释
英伟达仍是核心背景
OpenAI此次对比存在边界条件。
首先,Jalapeño并未与英伟达已经开始出货的Vera Rubin新一代芯片正面测试对标;其次,Jalapeño主要面向推理,不参与大模型训练,而英伟达GPU在训练领域仍处于事实标准地位,英伟达依旧是OpenAI的重要供应商。
OpenAI目前还在部分推理场景中使用Cerebras Systems的技术,尤其是针对较小模型的工作负载。而Ho表示,Jalapeño则被设计为可承载更大规模模型。“我们的算力需求实在太大了。”他说。
面向公众的测试中,OpenAI选用了一个自家较小规模的开源模型,以及来自DeepSeek和Moonshot AI的模型;在Moonshot旗下更大规模的Kimi模型上,Jalapeño的优势展现得更为明显。
Ho透露,Jalapeño的第二代方案研发已进入后期阶段,预计将在未来数月内完成流片(tape-out),与此同时,OpenAI已经启动第三代架构的前期概念设计工作。
Jalapeño项目紧随OpenAI与Broadcom在今年6月24日发布的联合声明。彼时双方宣布,在OpenAI自家模型的辅助下,Jalapeño从架构设计到首代流片仅用时九个月,这也是该芯片的第一代产品。

