OpenAI, Jalapeño adlı özel tasarım çipinin, 700 watt güç tüketiminde yapılan iki çıkarım (inference) testinde Nvidia GB300’ü geride bıraktığını ve 2026 sonlarına doğru üretime alınarak maliyetleri düşürüp yanıt sürelerini kısaltmayı hedeflediğini açıkladı.
Öne Çıkanlar
- OpenAI, Jalapeño’nun testlerde güç başına işleme (throughput) ve yanıt hızı metriklerinde Nvidia GB300’ün önüne geçtiğini belirtiyor.
- 700 watt’lık çıkarım çipi, veri merkezi maliyetlerini aşağı çekerken yapay zeka modellerini daha hızlı sunmak için tasarlandı.
- Jalapeño, model eğitimi için değil çıkarım için tasarlandı ve Nvidia’nın daha yeni Vera Rubin nesliyle karşılaştırılmadı.
OpenAI Kıyaslamaları
OpenAI, özel tasarım Jalapeño işlemcisinin, yapay zeka iş yükünü güç başına üretilen iş ve yanıt dönüş hızında Nvidia GB300’ün üzerine çıktığını duyurdu.
OpenAI’nin çipten sorumlu yöneticisi Richard Ho, Jalapeño’nun yüksek throughput’u düşük gecikme süreleriyle birleştirdiğini; bunun da müşterilere daha düşük maliyeti ya da daha hızlı yanıtı öne çıkaran model seçenekleri sunabileceğini söyledi.
Broadcom iş birliğiyle geliştirilen Jalapeño, Ho’nun açıklamasına göre bu test sonuçlarını 700 watt güç zarfında elde etti. Güç tüketimi, veri merkezleri için en büyük maliyet kalemlerinden biri.
Ayrıca Oku: RWA Piyasası %48,7 Sıçradı, Ancak Neredeyse Her Şeyi Tek Bir Token Açıklıyor
Nvidia Cephesi ve Sınırlamalar
Karşılaştırmanın belirgin sınırları bulunuyor.
Jalapeño, sevkiyatına yeni başlanan Nvidia’nın Vera Rubin nesliyle kıyaslanmadı ve tasarımı itibarıyla model eğitimi değil, yalnızca çıkarım odaklı. Nvidia, OpenAI için kritik bir tedarikçi olmaya devam ediyor.
OpenAI, bazı çıkarım iş yüklerinde — özellikle daha küçük modellerde — Cerebras Systems teknolojisini de kullanıyor. Ho, Jalapeño’nun ise daha büyük modelleri taşıyabildiğini vurguladı. “Hesaplama gücüne o kadar büyük ihtiyacımız var ki,” dedi.
Açık testler, bir küçük ölçekli açık kaynaklı OpenAI modeliyle birlikte DeepSeek ve Moonshot AI modelleri üzerinde yapıldı; Jalapeño’nun görece avantajının en net şekilde Moonshot’ın daha büyük Kimi modelinde ortaya çıktığı belirtiliyor. İkinci nesil tasarımda da önemli yol alınmış durumda; bant dışına çıkarma (tape-out) aşamasına önümüzdeki aylarda geçilmesi beklenirken, OpenAI üçüncü nesil için de kavramsal çalışmalara başlamış bulunuyor.
Çip, OpenAI’nin Broadcom ile 24 Haziran’da yaptığı ve Jalapeño’nun, OpenAI modellerinin de desteğiyle dokuz ay içinde tasarımdan üretim tape-out’ına geçtiğini açıkladığı ilk duyurunun devamı niteliğinde. O duyuruda bahsedilen versiyon, bu ilk nesildi.
Sıradaki Haber: Nvidia, Hisseler Düşerken SpaceX’in 2027 Yörünge Yapay Zeka Planını Besliyor
