OpenAI'nin ilk özel çipi Jalapeño, SemiAnalysis testlerinde Blackwell'i verimlilikta geride bıraktı

OpenAI, Jalapeño'yu tanıttı

OpenAI, büyük dil modeli çıkarımı (inference) için geliştirdiği ilk özel çipi Jalapeño'yu, Hot Chips konferansındaki duyurusunun ardından ayrıntılarıyla kamuoyuna açıkladı. OpenAI'nin laboratuvarlarına davet edildiğini ve donanım üzerinde InferenceX kıyaslama paketini çalıştırdığını söyleyen SemiAnalysis'e göre çip, Broadcom ile iş birliği içinde sıfırdan geliştirildi; program ilk kez Haziran'da duyuruldu ve tasarım çalışmaları 2024 ortasında başladı. Çip, ilk ekip kurulmasından üretim için tape-out aşamasına yaklaşık 16 ayda ulaştı — SemiAnalysis bunu bir ASIC için son derece hızlı bir döngü olarak nitelendiriyor. Kağıt üzerinde, günümüzün en üst segment Nvidia ve AMD hızlandırıcılarının da kullandığı bellek sınıfı olan HBM4 sayesinde amiral gemisi bölgesine yerleşiyor.

OpenAI'ye özel bir çip değil, genel amaçlı bir çıkarım çipi

Basındaki haberlerin çoğu Jalapeño'yu yalnızca OpenAI'nin kendi modellerine göre ince ayar yapılmış bir silikon olarak sundu. SemiAnalysis bu okumaya itiraz ediyor ve çipi; gecikme-iş hacmi eğrisindeki tek bir noktaya optimize edilmiş olmak yerine birçok modelde ve iş yükü türünde iyi performans gösteren genel amaçlı bir çıkarım tasarımı olarak tanımlıyor. Yayın, InferenceX'i laboratuvarda OpenAI mühendisleriyle birlikte çalıştırdığını ve OpenAI'nin yarım şaka şekilde Doom'u yalnızca Codex prompt'ları kullanarak port edip çipte çalıştırdığını gösterdiğini belirtiyor.

Kıyaslamalar ne gösteriyor

SemiAnalysis'ın öne çıkan metriği megawatt başına token iş hacmi ve bu metrikte Jalapeño, yayın tarafından test edilen her Nvidia, AMD ve Google çipinin önünde yer alıyor; birden fazla önde gelen açık kaynak model üzerinde de durum aynı. Özellikle, Jalapeño rakamları multi-token prediction (MTP) kullanılmadan elde edilirken, rakip sayıları her bir rakibin en iyi yapılandırmasını temsil ediyor ve hepsi MTP kullanıyor.

Etkileşimlilik tarafında SemiAnalysis, DeepSeek R1 üzerinde eşzamanlılık bir iken kullanıcı başına saniyede 700'den fazla token bildiriyor; bu değer tek token tahmini, spekülatif kod çözme (speculative decoding) olmaksızın ve prefill-decode ayrıştırması yapılmadan elde edilmiş. Kimi-K2.5 ve GPT-OSS'un kullanıcı başına yaklaşık saniyede 1.400 token çalıştığı, GSM8k değerlendirme puanlarının ise aynı modellerin Nvidia donanımında ürettiği sonuçlarla eşleştiği bildiriliyor.

Önemli uyarılar

SemiAnalysis bu sonuçların sınırları konusunda açık. Tüm sayılar OpenAI tarafından sağlandı; yayın bazı InferenceX çalışmalarını yerinde doğruladı ancak tam paketi ya da çip karşılaştırmalarında tercih ettiği AgentX kıyaslamasını çalıştırmadı — AgentX'in uzun bağlamlı, çok turlu veri kümeleri gerçek üretim iş yüklerinin cache davranışını daha iyi yansıtıyor.

Yayın ayrıca Jalapeño'yu Blackwell ile ölçmenin eksik ve biraz da haksız bir karşılaştırma olduğunu savunuyor. Gerçek rakip, tıpkı Jalapeño gibi HBM4 kullanan ve müşterilere şimdiden sevkiyata başlamış olan Nvidia'nın Vera Rubin'i — SemiAnalysis, Vera Rubin NVL72'nin GB200 NVL72'ye göre megawatt başına 5,4 kat performans sunduğuna dikkat çekiyor — buna karşılık OpenAI'nin elinde şu an Jalapeño'dan mühendislik örneklerinden fazlası yok. Yine de yayın, Jalapeño'nun tek token tahminine dayalı megawatt başına iş hacminin, Nvidia ve CoreWeave'un Temmuz'da yayımladığı MTP tabanlı Rubin rakamlarını aştığını, dolar başına performansta ise ikisinin neredeyse özdeş olduğunu — Jalapeño spekülatif kod çözme kullanmazken — belirtiyor. Test edilen modeller de mevcut en büyükler değil; Nvidia ve AMD, DeepSeek V4 Pro ve Kimi K3 üzerinde AgentX sonuçları yayımladı ve daha büyük, daha yeni modelleri yeni silikonda çalıştırmak daha zordur.

Güç duvarına göre tasarlandı

SemiAnalysis tasarım felsefesini şöyle açıklıyor: OpenAI'yi sınırlayan şey bütçe veya zemin alanı değil, veri merkezi gücü; bu yüzden en çok önemli olan sayı megawatt başına token. Nvidia da aynı argümanı dile getiriyor — SemiAnalysis, Jensen Huang'ın Computex 2026 açılış konuşmasına atıf yapıyor; Huang burada sabit bir gigawatt güçle watt başına iş hacminin doğrudan gelire dönüştüğünü söylemişti — ve yayın, şebeke kapasitesi eklemenin donanım eklemekten çok daha yavaş bir zaman çizelgesiyle ilerlediğine, bunun da operatörleri sayaç arkası enerji üretimine ittiğine dikkat çekiyor.

Neden önemli

İlk nesil çipler neredeyse hiçbir zaman yerleşik oyuncuları tehdit etmez; Jalapeño, en azından bu rakamlara göre, ediyor. Satıcı tarafından sağlanan sonuçlar bağımsız testler altında da doğrulanırsa, Nvidia'nın en büyük müşterilerinden biri, artık yapay zekâ altyapısı ekonomisini belirleyen metrikte önde olan bir silikon üretmiş oldu. 16 aylık tasarım döngüsü de yapay zekâ araçlarının çip tasarımını hızlandırdığı iddialarına ağırlık katıyor. Dürüst çerçeve şu: Bu işin erken günleriyiz — mühendislik örnekleri, OpenAI tarafından sağlanan rakamlar ve henüz AgentX sonuçları yok; karşımızda ise şu an hacimlendirmeye başlamış bir Rubin platformu var. Ama yön net — en büyük yapay zekâ operatörleri kendi silikonlarını üretmeye istekli ve bu hem Nvidia'nın fiyatlama gücünü hem de sınır modellerinin arkasındaki donanım yığınını yeniden şekillendiriyor.