OpenAI称自研Jalapeño芯片在两大关键AI指标上压倒英伟达GB300

OpenAI称自研Jalapeño芯片在两大关键AI指标上压倒英伟达GB300

OpenAI披露的内部基准测试显示,在700瓦功耗条件下,其自研推理芯片Jalapeño在两项关键推理指标上击败Nvidia的GB300,并计划于2026年晚些时候大规模部署,以降低算力成本并提升服务响应速度。

关键信息

  • OpenAI称,在测试中,Jalapeño在“单位功耗吞吐量”和“响应时延”两项指标上领先英伟达GB300。
  • 这款700瓦推理芯片专为降低数据中心运行成本、加快AI模型响应而设计。
  • Jalapeño并非用于模型训练,测试中也未与英伟达更新一代Vera Rubin系芯片直接对比。

OpenAI基准测试细节

OpenAI在一份声明中表示,其定制的Jalapeño处理器在“单位能耗可完成的AI推理工作量”和“返回结果所需时间”两项指标上优于英伟达GB300。

OpenAI芯片负责人Richard Ho称,Jalapeño将高吞吐与低时延结合在一起,有望让企业客户在选型时在“成本更低”和“响应更快”的不同模型之间进行权衡选择。

Ho透露,Jalapeño由OpenAI与Broadcom联合开发,测试成绩是在700瓦功耗下取得的。电力成本是数据中心运营支出中的重要组成部分,能效优势意味着潜在的显著成本节约。

延伸阅读:RWA 市场暴涨 48.7%,但几乎全由一枚代币解释

英伟达仍是核心背景

OpenAI此次对比存在边界条件。

首先,Jalapeño并未与英伟达已经开始出货的Vera Rubin新一代芯片正面测试对标;其次,Jalapeño主要面向推理,不参与大模型训练,而英伟达GPU在训练领域仍处于事实标准地位,英伟达依旧是OpenAI的重要供应商。

OpenAI目前还在部分推理场景中使用Cerebras Systems的技术,尤其是针对较小模型的工作负载。而Ho表示,Jalapeño则被设计为可承载更大规模模型。“我们的算力需求实在太大了。”他说。

面向公众的测试中,OpenAI选用了一个自家较小规模的开源模型,以及来自DeepSeekMoonshot AI的模型;在Moonshot旗下更大规模的Kimi模型上,Jalapeño的优势展现得更为明显。

Ho透露,Jalapeño的第二代方案研发已进入后期阶段,预计将在未来数月内完成流片(tape-out),与此同时,OpenAI已经启动第三代架构的前期概念设计工作。

Jalapeño项目紧随OpenAI与Broadcom在今年6月24日发布的联合声明。彼时双方宣布,在OpenAI自家模型的辅助下,Jalapeño从架构设计到首代流片仅用时九个月,这也是该芯片的第一代产品。

下篇看这个:Nvidia 为 SpaceX 2027 轨道 AI 计划提供算力支持,两家公司股价双双承压

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 是 Yellow.com 的内容负责人,在过去 10 年里一直报道加密行业。 他专注于深度的 Research 和 Learn 文章,重点关注分析性报道、行业背景,以及塑造加密世界的更大力量,从 AI 时代与安全技术到金融科技创新。 他坚信数字化的一切即将全面超越模拟世界的一切,并正为促成这一转变而不懈努力。

免责声明和风险警告: 本文提供的信息仅用于教育和信息目的,基于作者的意见。它不构成财务、投资、法律或税务建议。 加密货币资产具有高度波动性并面临高风险,包括失去全部或大部分投资的风险。交易或持有加密资产可能不适合所有投资者。 本文表达的观点仅为作者的观点,不代表Yellow、其创始人或高管的官方政策或立场。 在做出任何投资决定之前,请务必进行自己的全面研究(D.Y.O.R.)并咨询持牌金融专业人士。
OpenAI称自研Jalapeño芯片在两大关键AI指标上压倒英伟达GB300 | Yellow