TechCrunch'a göre Nvidia'nın yapay zeka hendeği GPU'lardan veri merkezi orkestrasyonuna kayıyor

Yapay zeka patlamasının büyük bölümünde Nvidia'nın hikâyesi basitti: şirket en üst düzey GPU'ların tek tedarikçisiydi ve sektör büyüdükçe muazzam kâr etti. TechCrunch'ın yeni analizi, bu çerçevenin artık geçerli olmadığını savunuyor. Şirketin çarşamba günü açıkladığı finansal sonuçların ardından yatırımcılar, Nvidia'nın avantajının gerçekte nerede yattığını yeniden değerlendirmeye başladı — GPU'nun kendisinde değil, GPU'yu çevreleyen makinelerde.

Yatırımcıların şimdiye kadar anlattığı hikâye

TechCrunch yazarı Russell Brandom önce tanıdık versiyonu ortaya koyuyor: Nvidia'nın eğitim donanımındaki teke tek konumu, patlamanın ilk yıllarında şirketi çılgınca kârlı hale getirdi; ancak Amazon ve Google gibi hiperölçekli şirketler kendi çiplerini üretmeye başlayınca Nvidia'nın tek gerçek seçenek olma dönemi sona erdi. Rakamlar da bu endişeyi yansıtıyor. Nvidia, 2023 başı ile 2025 ortası arasında piyasa değerini on kat artırdıktan sonra, son bir yılda hisseleri çok daha yatay bir seyir izledi; GPU rekabetine ilişkin kaygılar hisseleri baskıladı.

Brandom'a göre çarşamba günki mali sonuçlardan sonra yerleşen yeni hikâye ise şu: Yapay zeka hesaplama gücü gigavat ölçeğinde kurulumlara doğru ilerliyor ve bu boyutta bir veri merkezini en yüksek verimlilikte çalışır durumda tutmak gerçekten zor hale geldi. Nvidia, bu iş için öncü donanımın büyük bölümünü yıllardır inşa ediyor; bu da GPU'ların kendisi rakiplerin ilgisini çekmeye devam ederken bile, GPU'larını çevreleyen sistemlerde güçlü konumda olmasını sağlıyor.

Rafın içinde gerçekte ne var

En net kanıt, Nvidia'nın şu an piyasaya sürdüğü ürünlerde. Şu sıralar kullanıma giren Vera Rubin mimarisi, Rubin GPU'yu bir dizi yardımcı bileşenle eşleştiriyor: Vera CPU, Groq 3 LPX inference hızlandırıcısı ve depolama ile ağ için benzer raf düzeyinde sistemler. Brandom bunları, hiç token işlemeyen, son derece özelleştirilmiş birimler olarak tanımlıyor — görevleri, GPU'nun dışındaki her şeyin en yüksek verimlilikle çalışmasını sağlamak; GPU motorken, bu bileşenler de aracın çalışması için gereken diğer her şey.

Vera CPU özellikle veri orkestrasyonunu hedefliyor. "Vera önemli, çünkü tek bir sunucuya veya herhangi bir hesaplama platformuna koyabileceğiniz bellek miktarı sınırlı," dedi Nvidia'nın depolama teknolojilerinden sorumlu başkan yardımcısı Jason Hardy, TechCrunch'a. Bellek kapasitesi hesaplama gücüyle birlikte büyüdü — Micron gibi şirketlerin altyapı yatırımının ikinci dalgasında kâr etmesinin bir nedeni de bu — ancak doğru veriyi doğru anda bir GPU'ya ulaştırmak hiç de kolay değil. Operatörler watt başına token sayısını giderek düşürmeye çalıştıkça, bu trafik yönetimi birinci dereceden bir mühendislik sorununa dönüştü. Hardy, hızlandırmayı Vera CPU üstlendiğinde Nvidia'nın "bu işlemlerde üç kata kadar iyileşme" ölçtüğünü söyledi; bu da flash depolamanın darboğaz oluşturmadan tam potansiyeliyle çalışmasını sağlıyor.

OpenAI aynı darboğaza saldırıyor

Sorun Nvidia'nın ötesinde de görülüyor. Bu ayın başında bir blog yazısında ayrıntıları açıklanan OpenAI'nin Jalapeño çipi ters yolu izliyor: veriyi daha verimli taşımak yerine, olabildiğince az taşımaya çalışıyor. "Jalapeño'yu veri hareketini ve iletişim gecikmelerini en aza indirecek şekilde tasarladık," yazdı OpenAI ve geniş alanının "tüm iş yükünün tek bir bağlı sistem içinde kalmasını sağladığını, veri hareketini en aza indirdiğini ve isteğin baştan sona hızlı ve verimli kalmasına yardımcı olduğunu" ekledi.

Yöntem farklı, ama mantık aynı. Verimlilik kazanımları artık çıplak işlemci çevrimlerinden değil, daha akıllı veri yönetiminden geliyor ve bu, çip üreticileri ile hiperölçekli şirketlerin çekişebileceği taze bir altyapı katmanı açıyor.

Neden önemli

TechCrunch'ın analizi, yapay zeka donanımındaki merkezî rekabet sorusunu yeniden çerçevelendiriyor. Eğer yarış artık yalnızca en hızlı hızlandırıcıyı kimin yaptığıyla ilgili değil de, gigavat ölçeğindeki bir sistemin tamamını kimin verimli çalıştırabildiğiyle ilgiliyse, Amazon ile Google'ın özel çipleri Nvidia için göründüğünden daha dar bir tehdit. Bu kayış otomatik bir zafer değil — Nvidia bu katmanda da rakiplerle karşılaşacak — ancak Brandom, şirketi ilk aşamada epey önde görüyor. Yapay zeka altyapısı satın alan herkes için bu aynı zamanda, gerçek fiyatlama gücünün belki de en çok hesaplama gücü teslim eden değil, orkestrasyona hâkim olan satıcıda olabileceğini ima ediyor.