OpenAI, Jalapeño isimli özel tasarım yongasının, 700 watt güç sınırında yapılan iki farklı çıkarım (inference) testinde Nvidia’nın GB300 işlemcisini geçtiğini; yonganın 2026’nın ilerleyen dönemlerinde devreye alınarak maliyetleri düşürüp yanıt sürelerini kısaltmayı hedeflediğini açıkladı.
Öne Çıkanlar
- OpenAI’ye göre Jalapeño, testlerde Nvidia GB300’e kıyasla birim güç başına iş hacminde (throughput) ve yanıt hızında üstünlük sağladı.
- 700 watt’lık çıkarım yongası, veri merkezi maliyetlerini aşağı çekerken yapay zekâ modellerini daha hızlı sunmak üzere tasarlandı.
- Jalapeño, model eğitimi için tasarlanmadı ve Nvidia’nın daha yeni Vera Rubin serisiyle kıyaslamaya tabi tutulmadı.
OpenAI’nin Kıyaslama Sonuçları
OpenAI, özel tasarım Jalapeño işlemcisinin, yapay zekâ iş yükünü birim güç başına ölçen ve yanıt süresini baz alan testlerde Nvidia GB300’ü geride bıraktığını duyurdu.
Şirketin donanımdan sorumlu yöneticisi Richard Ho, Jalapeño’nun yüksek iş hacmini düşük gecikmeyle birleştirdiğini, bunun da müşterilere maliyeti minimize eden veya yanıt hızını maksimize eden model konfigürasyonları arasında tercih yapma imkânı sunduğunu belirtti.
Broadcom iş birliğiyle geliştirilen Jalapeño, Ho’nun aktardığına göre bu sonuçları 700 watt’lık bir güç zarfında elde etti. Enerji tüketimi, veri merkezleri için en büyük gider kalemlerinden biri olmaya devam ediyor.
Ayrıca Oku: RWA Piyasası %48,7 Büyüdü, Ancak Neredeyse Her Şeyi Tek Bir Token Açıklıyor
Nvidia Cephesi ve Kıyaslamanın Sınırları
Kıyaslamanın belirgin sınırlamaları var.
Jalapeño, sevkiyatına yeni başlanan Nvidia’nın Vera Rubin nesliyle test edilmedi ve OpenAI yongası model eğitimi için değil, yalnızca çıkarım süreci için tasarlandı. Nvidia, OpenAI için hâlâ kritik bir tedarikçi konumunu koruyor.
OpenAI, özellikle küçük yapay zekâ modellerinde bazı çıkarım iş yükleri için Cerebras Systems teknolojisinden de yararlanıyor. Ho, Jalapeño’nun daha büyük modelleri hedeflediğini vurgulayarak “Hesaplama gücüne olan ihtiyacımız o kadar büyük ki” ifadesini kullandı.
Kamuya açık testlerde, biri küçük ölçekli olmak üzere bir OpenAI açık kaynak modeli, ayrıca DeepSeek ve Moonshot AI tarafından geliştirilen modeller kullanıldı. Jalapeño’nun avantajı, özellikle Moonshot’un daha büyük Kimi modeli üzerinde daha belirgin ortaya çıktı. İkinci nesil tasarımın da şimdiden oldukça ilerlediği, birkaç ay içinde tape-out (üretim öncesi nihai tasarım çıktısı) aşamasına gelmesinin beklendiği; OpenAI’nin üçüncü nesil üzerinde ise kavramsal çalışmalara başladığı belirtildi.
Söz konusu yonga, OpenAI’nin 24 Haziran’da Broadcom ile yaptığı ve Jalapeño’nun OpenAI modellerinin yardımıyla yalnızca dokuz ayda tasarımdan üretim tape-out aşamasına geçirildiğini duyurduğu açıklamanın devamı niteliğinde. Bu, serinin ilk neslini temsil ediyor.
Sırada Bu Var: Nvidia, Hisseler Düşerken SpaceX’in 2027 Yörünge Yapay Zekâ Planına Güç Veriyor
