OpenAI kendi yapay zekâ çipi Jalapeño’yu test etti: Nvidia GB300’den daha verimli olduğu iddia ediliyor

OpenAI’nin Hot Chips etkinliğinde paylaştığı verilere göre Jalapeño, test edilen Nvidia GB200 ve GB300 sistemlerine kıyasla kilovat başına 1,5 ila 1,9 kat daha yüksek verim sağlayabiliyor. Uçtan uca gecikme süresinin ise bazı senaryolarda 3,6 kata kadar daha düşük olduğu belirtiliyor.

Ancak burada önemli bir ayrıntı var: Bunlar OpenAI’nin kendi açıkladığı sonuçlar. Dolayısıyla Jalapeño’nun gerçekten Nvidia’nın en güçlü çözümlerini geride bıraktığını söylemek için bağımsız testleri görmek gerekiyor.

Jalapeño aslında Nvidia GPU’larına doğrudan rakip değil

Jalapeño klasik anlamda genel amaçlı bir GPU değil. Çip bir ASIC, yani belirli görevleri mümkün olduğunca verimli gerçekleştirmek üzere özel olarak tasarlanmış bir işlemci.

OpenAI de Jalapeño’yu özellikle yapay zekâ modellerinin çıkarım (inference) işlemleri için geliştirdi.

Basitçe söylemek gerekirse eğitim aşamasında model öğrenirken, çıkarım aşamasında eğitilmiş model kullanıcıların sorularına cevap üretiyor. ChatGPT gibi milyonlarca kişinin sürekli kullandığı hizmetlerde çıkarım maliyetlerini birkaç puan bile azaltmak, veri merkezi ölçeğinde ciddi tasarruf anlamına gelebiliyor.

Jalapeño’nun asıl avantajı da tam olarak burada ortaya çıkıyor.

700W güç tüketimi verimlilik avantajı sağlıyor

OpenAI’nin çipi yaklaşık 700W güç tüketimiyle çalışıyor. Karşılaştırılan Nvidia çözümlerinde ise bu değer 1.200W ile 1.400W seviyelerine çıkabiliyor.

Bu nedenle OpenAI karşılaştırmasını ham performanstan ziyade kilovat başına performans üzerinden yapıyor.

SemiAnalysis’in InferenceX test paketinde GPT-OSS 120B, DeepSeek R1 670B ve Moonshot AI’ın Kimi K2.5 modelleri kullanıldı.

OpenAI’nin sonuçlarına göre Jalapeño, GPT-OSS 120B çalıştırırken GB200’e karşı kilovat başına yaklaşık 1,9 kat daha yüksek verimlilik sağladı. DeepSeek testinde GB300’e karşı fark 1,7 kat, Kimi K2.5’te ise yaklaşık 1,5 kat oldu.

Gecikme sürelerinde de Jalapeño lehine ciddi farklar bildiriliyor.

Fakat GB300 hâlâ daha güçlü

Burada “Jalapeño Nvidia GB300’ü geçti” demeden önce önemli bir ayrım yapmak gerekiyor.

Mutlak performans açısından Nvidia hâlâ önde.

TechRadar’ın aktardığı verilere göre GB300, paket başına ham performansta Jalapeño’dan yaklaşık yüzde 20 ila 25 daha güçlü olabiliyor.

OpenAI’nin öne çıkardığı avantaj, aynı işi daha az enerji tüketerek gerçekleştirebilmesi.

Dolayısıyla karşılaştırmayı bir otomobil benzetmesiyle düşünmek mümkün: Nvidia daha hızlı otomobile sahip olabilir, ancak OpenAI aynı yolculuğu daha az yakıt tüketerek tamamlamaya çalışıyor.

Devasa veri merkezlerinde elektrik tüketimi ve soğutma maliyetleri düşünüldüğünde bu fark oldukça önemli.

OpenAI sonuçları kendisi için avantajlı şekilde seçmiş olabilir

Performans sonuçlarına biraz temkinli yaklaşmakta fayda var.

OpenAI’nin karşılaştırmaları çip başına performans yerine ağırlıklı olarak kilovat başına performansa odaklanıyor. Bu doğal olarak daha düşük güç tüketen Jalapeño’nun güçlü tarafını öne çıkarıyor.

Ayrıca GPT-OSS 120B’nin Jalapeño ile GB300 arasındaki doğrudan performans karşılaştırması paylaşılmadı.

Nvidia’nın gerçek veri merkezi kurulumlarında kullandığı çoklu token tahmini gibi optimizasyonlar hesaba katıldığında da fark azalıyor. Jalapeño benzer şekilde yapılandırılmış GB300 sistemiyle karşılaştırıldığında en yüksek verimlilik avantajının yaklaşık 1,5 kata gerilediği belirtiliyor.

Yani sonuçlar etkileyici olsa da bağlam oldukça önemli.

216 GB HBM4 ve 15,4 TB/s bellek bant genişliği

Jalapeño’nun en dikkat çekici teknik özelliklerinden biri bellek sistemi.

Her işlemci paketinde 216 GiB HBM4 bellek bulunuyor ve toplam bellek bant genişliği 15,4 TB/s seviyesine ulaşıyor.

GB300’ün 288 GB HBM3E kapasitesinden daha az belleğe sahip olsa da Jalapeño çok daha yüksek bant genişliğine odaklanıyor.

OpenAI ayrıca işlem çekirdeklerini ve HBM belleği bölümlere ayırarak model durumunun mümkün olduğunca yerel tutulmasını hedeflemiş. Böylece sürekli veri taşımanın yarattığı gecikme ve enerji tüketimi azaltılıyor.

Özel iletişim ağı da işlemciler arasındaki senkronizasyonu üstleniyor.

Bu tasarım, çipin neden özellikle büyük dil modellerinin çıkarım işlemlerinde verimli olduğunu açıklıyor.

Nvidia Vera Rubin ile karşılaştırma henüz yok

Jalapeño’nun GB200 ve GB300 karşısındaki sonuçları paylaşılmış olsa da Nvidia’nın yeni nesil Vera Rubin platformuyla karşılaştırma yapılmadı.

Bu önemli, çünkü Rubin de enerji verimliliği ve HBM4 bellek teknolojisini merkezine alan yeni nesil bir mimari.

Dolayısıyla Jalapeño’nun Nvidia’nın güncel nesline karşı başarılı görünmesi, otomatik olarak yeni Rubin sistemlerinden daha iyi olacağı anlamına gelmiyor.

Zaten OpenAI’nin amacı da Nvidia’nın bütün ürünlerini değiştirmek olmayabilir.

Yeni B0 sürümü yüzde 25 daha verimli olacak

Paylaşılan testler Jalapeño’nun ilk üretim aşaması olan A0 silikonuna dayanıyor.

OpenAI şimdiden daha gelişmiş B0 sürümü üzerinde çalışıyor.

Şirketin verdiği bilgilere göre B0, watt başına yaklaşık yüzde 25 daha yüksek performans sağlayacak. Bu sürüm üretime girmiş durumda ancak Jalapeño’nun geniş ölçekli üretiminin 2027 boyunca kademeli şekilde artırılması bekleniyor.

Bu nedenle çip kısa vadede Nvidia donanımlarının yerini tamamen almayacak.

OpenAI yine de Nvidia’dan vazgeçmiyor

Jalapeño’nun ortaya çıkması, OpenAI ile Nvidia arasındaki ilişkinin sona ereceği anlamına gelmiyor.

OpenAI donanım programının başındaki Richard Ho, şirketin Nvidia çiplerine hâlâ ciddi şekilde ihtiyaç duyduğunu ve Nvidia’yı önemli bir ortak olarak gördüğünü söylüyor.

Bunun temel nedeni eğitim ile çıkarım arasındaki fark.

Jalapeño belirli çıkarım işlerini mümkün olduğunca ekonomik gerçekleştirmek için tasarlanmış özel bir çip. Nvidia GPU’ları ise çok daha esnek ve yeni modellerin eğitilmesi dahil çok daha geniş bir iş yükü yelpazesini çalıştırabiliyor.

Bu nedenle OpenAI’nin yakın gelecekte Nvidia GPU’larını tamamen bırakması pek gerçekçi görünmüyor.

Asıl tehdit Nvidia’nın çıkarım gelirlerinde olabilir

Jalapeño’nun Nvidia açısından önemi tek başına bu çipin ne kadar hızlı olduğundan daha büyük olabilir.

Google, Amazon, Microsoft ve diğer büyük teknoloji şirketleri zaten kendi yapay zekâ hızlandırıcılarını geliştiriyor. OpenAI gibi dünyanın en büyük yapay zekâ altyapısı müşterilerinden birinin de kendi silikonuna yönelmesi, sektörün giderek özel yapay zekâ çiplerine kaydığını gösteriyor.

Bu özellikle çıkarım tarafında Nvidia için sorun yaratabilir.

Model eğitimi için son derece esnek GPU’lara ihtiyaç devam ederken, her gün milyarlarca kez tekrarlanan çıkarım işlemlerini özel ASIC’lere taşımak çok daha ekonomik olabilir.

Jalapeño’nun asıl önemi de burada yatıyor. Çipin Nvidia’nın en hızlı GPU’sunu yenmesi gerekmiyor. OpenAI’nin kendi iş yüklerinde yeterince hızlı, daha ucuz ve daha enerji verimli olması bile şirket için büyük bir kazanım.

Eğer OpenAI bunu milyarlarca kullanıcı sorgusunun işlendiği veri merkezlerine ölçekleyebilirse, Jalapeño yalnızca yeni bir yapay zekâ çipi olmayacak. Nvidia’nın yapay zekâ pazarındaki en kârlı alanlarından biri olan çıkarım tarafında dengeleri değiştirebilecek önemli bir alternatif haline gelebilir.