OpenAI'nin LLM'leri, Jalapeño çipini konseptten silikona 20 ayın altında taşıdı

25 Ağustos'ta OpenAI, kendi geliştirdiği ilk yapay zeka hızlandırıcısı Jalapeño'yı tam olarak tanıttı ve IEEE Spectrum'daki ayrıntılı bir rapor, öne çıkan teknik özelliklerin hikayenin yalnızca yarısı olduğunu gösteriyor. Çip, 13,4 petaflops'a varan 4 bit hesaplama gücü sunuyor ve mevcut en gelişmiş bellekten 232 gigabaytına 15,4 terabayt/saniye hızla bağlanıyor. OpenAI'nin kıyaslamaları, Jalapeño'nun Nvidia'nın GB300'üne kıyasla — prompt'tan son token'a kadar — uçtan uca çıkarım (inference) gecikmesini 3,6 kata kadar azaltabildiğini, hem de daha az güç tüketerek claiming; OpenAI bu çipe hâlâ güveniyor. Çip OpenAI'nin çıkarım filosunda yaygın hizmete girdiğinde bu kazanımların korunup korunmayacağı ise henüz belli değil.

Hikayenin diğer yarısı, OpenAI'nin kendi büyük dil modellerinin her aşamada hızlandırmaya yardımcı olduğu tasarım sürecinin kendisi.

Sıkıştırılmış bir takvimde küçük bir ekip

Jalapeño, ilk mimari konseptten ilk silikona 20 ayın altında gitti; ilk register-transfer level (RTL) kodu ile tape-out arasında yalnızca dokuz ay vardı. OpenAI'nin donanım başkan yardımcısı Richard Ho'ya göre, arkasındaki ekip ortalama 100 kişiden azdı — sistem tasarımı, yazılım ve tedarik zinciri rollerini kapsayan bu sayı, partner Broadcom'daki personeli içermiyor.

Broadcom ortaklığı, tasarımı uygulamadan ayırdı. OpenAI, çıkarım hızlandırıcı, bellek hiyerarşisi ve ağ dahil uçtan uca sistem tasarımına sahipken, Broadcom Ho'nun IEEE Spectrum'a söylediğine göre fiziksel tasarımı "kapılardan itibaren" üstlendi.

Bağımsız uzmanlar ölçülü bir övgü sundu. Agentic çip tasarımı girişimi Verkor.io'nun kurucu ortağı David Chin, takvimin inandırıcı olduğunu söyledi ama Broadcom'un yardımının bu hıza ulaşmak için kritik olduğunu savundu. Verkur'un kurucu ortağı Ravi Krishna, bunun görece etkileyici bir sonuç olduğunu ve bugün geliştirilmiş LLM'lerle başlayan bir projenin daha da hızlı ilerleyebileceğini söyledi. Kaliforniya Üniversitesi San Diego şubesinden seçkin profesör Andrew Kahng ise zaman çizelgesini "büyük olasılıkla bugün sınıfının en iyisi" olarak niteledi.

LLM'ler neden ön uca uyuyor

Maryland Üniversitesi'nde yarı iletken girişimini yöneten Ankur Srivastava, IEEE Spectrum'a çip tasarımındaki otomasyonun onlarca yıllık olduğunu söyledi. LLM'leri ayıran şey, dil ve koddaki hâkimiyetleri; bu da onları sorunların onun deyişiyle dilsel alanında yaşayan görevlere uygun kılıyor.

OpenAI'nin ön uç iş akışı, originally Google'da geliştirilen açık kaynaklı bir üst düzey sentez (high-level synthesis) araç zinciri olan Accelerated Hardware Synthesis (XLS) etrafında kuruluydu. Mühendisler Rust'tan ilham alan alan-özel bir dil olan DSLX veya C++ ile yazıyor, XLS de sonucu Verilog'a dönüştürüyor. "Yapay zeka, yazılıma benzeyen şeylerde çok daha iyiydi," diye XLS'i Google'da başlatan OpenAI teknik personelinden Chris Leary IEEE Spectrum'a söyledi — ve XLS birçok yönden yazılım gibi görünüyor. Kahng, üst düzey sentezin "LLM'nin çalışması için daha doğal" olduğunu kabul etti ve iş akışının ileride "geleceği olduğunu" söyledi.

Modeller kendi donanımlarını ayarlıyor

Yapay zeka yardımı tape-out'ta durmadı. İlk çipler mayısta fabrikadan döndüğünde, ekip iç modelleri SemiAnalysis'in InferenceX gibi kıyaslamaları çalıştırmak için gereken yazılımı yazmaya yönlendirdi. DeepSeek'in multi-head latent attention kernel kıyaslamasında performans, teorik tavanın — çipin hesaplama gücü ve bellek bant genişliğinin belirlediği sınırın — yüzde 0,31'inden yaklaşık 40 saatte yüzde 88,94'e yükseldi. Ho, sonucun tekrarlanabilir olduğunu ve OpenAI'nin artık takvim varsayımlarını bu yeteneğe sahip olmaya dayandırdığını, böylece ilk silikon ile üretim rampası arasındaki boşluğu daralttığını söylüyor.

Modeller, projeyle birlikte evrildi. Çalışma, Nisan 2025'te halka açılan o3 dönemi sistemlerle başladı ve 3 Eylül 2026'da halka ulaşan GPT-6 Astra'nın öncülleriyle sona erdi. Leary, daha yeni modellerin XLS'in çeviri katmanı olmadan doğrudan Verilog'da çalışabildiğini ve tescilli tasarım araçlarını kendi başlarına kullanmaya yakın olduğunu söylüyor. Ho, ekibin halka açık olmayan, çip tasarımı için ince ayarlanmış iç LLM'ler kullandığını da doğruladı ve derslerin gelecekteki sürümleri besleyeceğini söyledi: "Astra ve sonraki modeller çip tasarımında çok iyi olacak."

Arka uç işi — bağlantı hatlarının yönlendirilmesi, saat ve güç spesifikasyonlarının tamamlanması ve tasarımın fabrikaya hazırlanması — büyük ölçüde Broadcom'daydı, ancak OpenAI fiziksel tasarım mühendisleri onlarla birlikte çalıştı. Jalapeño, 2.048 çiplik pod'lar halinde konuşlanmak üzere tasarlandı.

Neden önemli

Bu, LLM'lerin amiral gemisi bir silikon projesini sıkıştırmasına dair şimdiye kadarki en somut kamusal gösterimlerden biri: 100'den az mühendisle 20 ayın altında konseptten ilk silikona ve haftalar yerine saatlerle ölçülen kernel hazırlığı. Bu yaklaşım ölçeklenirse, sınır modelleriyle onları çalıştıran hızlandırıcılar arasındaki geri bildirim döngüsünü kısaltır ve yapay zeka laboratuvarlarının donanım üzerinde yazılım hızına daha yakın bir tempoda yineleme yapmasını sağlar. Ayrıca çip tasarımı becerisini modellerin kendilerinin bir özelliğine dönüştürür; OpenAI bu yeteneğin ticari sürümlerde görüneceğini taahhüt ediyor. Uyarılar gerçek — kıyaslamalar OpenAI'nin kendi, filo düzeyindeki performans kanıtlanmadı ve fiziksel uygulamayı Broadcom üstlendi — dolayısıyla bu kilometre taşı tamamen yapay zeka tarafından tasarlanan silikon değil, yapay zeka destekli tasarım. Yine de IEEE Spectrum'un alıntıladığı uzmanlar, modeller geliştikçe bu zaman çizelgelerinin daralmaya devam etmesini bekliyor.