OpenAI stelt dat zijn Jalapeño-chip de Nvidia GB300 heeft geklopt in twee inference-benchmarks bij een verbruik van 700 watt. De eerste uitrol staat later in 2026 gepland en moet de kosten drukken en de responstijden verkorten.
Belangrijkste punten:
- Volgens OpenAI presteerde Jalapeño beter dan Nvidia’s GB300 in doorvoer per eenheid stroomverbruik en in reactiesnelheid.
- De inference-chip van 700 watt is ontworpen om datacenters goedkoper te laten draaien én AI-modellen sneller te bedienen.
- Jalapeño is niet bedoeld voor het trainen van modellen en is niet vergeleken met Nvidia’s nieuwere Vera Rubin-generatie.
OpenAI-benchmarks
OpenAI meldde dat de eigen Jalapeño-processor beter scoorde dan Nvidia’s GB300 in tests die keken naar AI-werk per eenheid stroomverbruik en de snelheid waarmee antwoorden worden teruggegeven.
Richard Ho, hoofd chips bij OpenAI, zegt dat Jalapeño hoge doorvoer combineert met lage latency. Dat moet klanten in staat stellen modellen te kiezen die óf sterk op kostenbesparing óf juist op snelheid zijn geoptimaliseerd.
Jalapeño is ontwikkeld in samenwerking met Broadcom en haalde zijn testresultaten bij een verbruik van 700 watt, aldus Ho. Stroom is een van de grootste kostenposten in datacenters.
Zie ook: RWA-markt stijgt 48,7%, maar één token verklaart vrijwel alles
Context bij Nvidia
De vergelijking kent duidelijke beperkingen.
Jalapeño is niet getest tegen Nvidia’s nieuwere Vera Rubin-generatie, die inmiddels wordt uitgeleverd, en de OpenAI-chip is specifiek ontworpen voor inference, niet voor training van modellen. Nvidia blijft bovendien een cruciale toeleverancier voor OpenAI.
Daarnaast zet OpenAI technologie van Cerebras Systems in voor bepaalde inference-workloads, met name voor kleinere modellen, terwijl Ho zegt dat Jalapeño juist grotere modellen aankan. “We hebben zóveel rekencapaciteit nodig,” aldus Ho.
In publieke tests gebruikte OpenAI één kleiner open-sourcemodel van zichzelf naast modellen van DeepSeek en Moonshot AI. De grootste voorsprong voor Jalapeño kwam naar voren bij Kimi, het grotere model van Moonshot. Een tweede generatie van de chip is al ver gevorderd, met een tape-out die in de komende maanden wordt verwacht. OpenAI is inmiddels ook conceptueel begonnen aan een derde generatie.
De chip volgt op de aankondiging van 24 juni van OpenAI en Broadcom, waarin werd gemeld dat Jalapeño in negen maanden tijd van ontwerp tot manufacturing tape-out kwam, mede dankzij inzet van OpenAI-modellen. Dat betrof de eerste generatie.
Lees verder: Nvidia stuwt SpaceX’ AI-plannen in de ruimtebaan van 2027, terwijl beide aandelen dalen
