OpenAI'den Sam Altman'a göre kıt bellek masaüstünüzde değil veri merkezlerinde olmalı

OpenAI CEO'su Sam Altman, yerel-bulut AI tartışmasına alışılmadık derecede net bir argümanla dahil oldu: Dünyadaki kıt bellek arzı, insanların masalarındaki makinelerde değil, paylaşımlı veri merkezi donanımında değerlendirilmeli.

The Verge'nin haberine göre Altman, bu yorumları Cheeky Pint podcast'ine konuk olduğu sırada, süregelen RAM kıtlığı gibi tedarik zinciri eksikliklerine ilişkin bir soruya yanıt olarak dile getirdi. Giderek daha fazla insanın AI modellerini yerel olarak çalıştırmak istediğini ve kişisel bilgisayarlarda çalıştırılabilen açık kaynak modellerin sorunu çözdüğünü, dolayısıyla devasa veri merkezlerine artık gerek kalmadığını varsaydığını söyledi. Altman buna katılmıyor. Sınırlı küresel bir kaynağın tahsisi sorunu olarak bakıldığında, herkesin gezegenin DRAM'ının bir kısmını, büyük bölümünde boş duran — Altman'ın tahminine göre yüzde beş kullanım oranıyla — kendi makinelerinde tutması "oldukça kötü" bir durum. Arzın kısıtlı olduğu bir ortamda, birçok insanın sezgisi tersini gösterse de, hedefin paylaşımlı bulut donanımını olabildiğince meşgul tutmak olması gerektiğini savundu.

Arka plan: Baskı altındaki bellek pazarı

Bu yorumlar gerçek bir kıtlık ortamında geldi. The Verge'nin aktardığına göre bellek üreticileri Samsung ve SK Hynix, bulut hizmeti işletmecileriyle ve OpenAI'nin kendi girişimi olan Stargate gibi projelerle uzun vadeli anlaşmalar imzaladı; bu anlaşmalar, dünyadaki RAM üretiminin büyük bölümünü önümüzdeki birkaç yıl için ayırdı. Rapora göre bu alıcıların çipler için ödemeye hazır oldukları milyarlarca dolar, dizüstü bilgisayarların, telefonların ve diğer tüketici donanımlarının şu anda pahalanmasının temel nedenlerinden biri.

Bu bağlam Altman'ın tezi için çift yönlü işliyor. Hyperscaler'lar ve AI laboratuvarları bellek üretiminin zaten büyük bölümünü emiyorsa, tüketici cihazları daha yüksek fiyatlar ve daha dar bir arzla karşılaşıyor; bu da yerel çıkarımı (inference) kurmayı daha maliyetli hale getiriyor. Altman'ın çerçevesi DRAM'ı, en meşgul kaldığı yere akması gereken paylaşımlı bir kaynak olarak ele alıyor ve gün boyu iş yükleri çalıştıran veri merkezleri bu hesabı tanımı gereği kazanıyor.

Argümanın dışarıda bıraktığı taraf

Yerel çıkarımın destekçileri, saf bir kullanım oranı hesabının yakalamadığı şeylere değer verme eğiliminde: Veriler cihazdan asla çıkmadığı için gizlilik; çevrimdışı çalışma; yinelenen abonelik ücretlerinin olmaması; ve sağlayıcıya bağımlılıktan (lock-in) korunma. Altman'ın atıfta bulunduğu açık kaynak model ekosistemi, yetenekli modelleri tüketici donanımında çalıştırma konusunda gerçek bir ilerleme kaydetti ve cihaz üreticileri tam olarak bu iş yükünü hedefleyen makineler çıkarmaya devam ediyor. The Verge, sorunun oyun bilgisayarları, geliştirici donanımı ve en yeni MacBook'lar için de aynı şekilde geçerli olduğuna dikkat çekiyor.

Ayrıca kaçınılmaz bir ticari boyut da var. OpenAI'nin işi, modelleri ChatGPT ya da API'si üzerinden kendi altyapısından sunmaya dayanıyor. Çıkarımın öncelikli olarak veri merkezlerinde gerçekleştiği bir gelecek, OpenAI'nin hattı kontrol ettiği bir gelecek; dizüstü bilgisayarlarda gerçekleştiği bir gelecek ise kontrol etmediği bir gelecek. Altman bir kaynak tahsisi argümanı ileri sürüyor, ama bunu sektörün en büyük veri merkezi yapım projelerlerinden bazılarının — bellek arzını bizzat rezerve eden Stargate projesi dahil — işletmecisi olarak sürüyor.

Neden önemli

AI'nin nerede çalışacağına dair tartışma soyut değil. Bu tartışma hangi donanımın üretileceğini, bu donanımın ne kadara mal olacağını ve AI patlamasının değerini kimin ele geçireceğini şekillendiriyor. Bellek arzı uzun vadeli bulut sözleşmelerinde kilitlenmeye devam ederse, tüketici cihazları pahalanmaya devam eder ve yerel AI dar bir uğraş olarak kalabilir — bu da alternatifi aç bırakarak fiilen Altman'ın öngörüsünü doğrular. Açık kaynak modeller ve cihaz üstü donanım, bellek pazarı darlaşmadan daha hızlı ilerlerse, kullanıcılar bulut kolaylığı ile yerel kontrol arasında gerçek bir seçeneğe kavuşur. Altman hangi tarafın kazanmasını beklediğini ve tercih ettiğini şimdi açıkça ortaya koydu.