IBM CEO'su: Açık ağırlıklı modeller, frontier performansının yüzde 90'ını maliyetin onda biriyle sunuyor

Açık ağırlıklı modeller farkı kapattı, diyor IBM patronu

IBM'in üçüncü çeyrek kazanç çağrısında CEO Arvind Krishna, yatırımcılara açık ağırlıklı modellerin şirket donanımında çalışan kurumsal yapay zekâ için artık mantıklı varsayılan seçenek hâline geldiğini söyledi.

The Register'ın aktardığına göre Krishna, kalite farkının ne kadar hızlı daraldığını anlattı. 2024'te, dedi, geniş kapsamlı benchmark'lar tek taraflı bir tablo çiziyordu: en iyi bir kapalı model yaklaşık 70 puan alırken açık bir alternatif 20 ya da 30 alıyordu. 2025 sonlarına gelindiğinde aynı ölçekte açık modeller yaklaşık 50 puana ulaşmıştı.

Ekonomik taraf daha da hızlı gelişti. Krishna, açık ağırlıklı modellerin şu anda token başına frontier modellerin yaklaşık yüzde 10 ila 25'i kadar maliyetle, yaklaşık yüzde 90 kadar etkili olduğunu söyledi. Özet pitch'i şöyleydi: "Fiyatın onda birine performansın yüzde 90'ı," üstelik sadece iki-üç rack ekipmanla teslim ediliyor.

Çoğu kurumsal görev frontier'e muhtaç değil

Krishna alıcıların kararını açık bir şekilde çerçeveledi: mutlak en iyi model için on kat fazla ödeyin ya da maliyetin çok küçük bir kıkarına neredeyse aynı kadar iyisini kabul edin.

Bazı görevlerin gerçekten frontier düzeyinde yetenek gerektirdiğini kabul etti. Ancak günlük kurumsal işlerin büyük kısmının — bir e-postayı özetlemek, bir sözleşmeyi incelemek, bir müşteri çağrısını yönetmek, bir yanıt taslağı hazırlamak — daha ucuz seçenekte de aynı iyi performans gösterdiğini savundu; bu yüzden çoğu işletmenin primi reddedeceğini öngörüyor.

Darboğaz model kalitesi değil, dağıtım

The Register'ın haberine göre Krishna, bu ekonomi üzerine kurulu on-prem yapay zekâ altyapısına ilgide patlama görüyor. Çoğu kuruluşun, dedi, faydalı yapay zekâ iş yüklerini çalıştırmak için yalnızca iki-üç rack'e ihtiyacı var.

Zor olan kısmı bunları işletmek. Krishna, kuruluşların kernel mühendislerini, temel ağları yönetecek kişileri, GPU'ları yakın ağ yakınlığında kümelenmiş tutacak uzmanları ve yanıtların hızlı kalması için sonuçları cache'leyecek mühendisleri nereden bulacağını sordu. IBM'in yapay zekâ dağıtımlarını kolaylaştıracak yazılım çıkaracağını vaat etmenin ötesinde ayrıntılı bir yanıt vermedi — ama on-prem talebinin IBM'in Spyre ana bilgisayar hızlandırıcı kartlarının satışlarını yükselteceğini öngördü.

Açıklamaların ardındaki çeyrek

Bu yorumlar karışık finansal sonuçlarla birlikte geldi. Toplam çeyrek geliri 17,1 milyar dolardı, yıllık yüzde beş artış. Altyapı geliri yüzde beş artışla 3,7 milyar dolara ulaştı — The Register'ın belirttiğine göre bu büyüme Dell, HPE ve Lenovo'nun kaydettiğinden daha yavaş.

Yazılım daha iyi yaptı: yüzde dokuz artışla 7,8 milyar dolara yükseldi. Red Hat yüzde on bir büyüdü ve yıllık yinelenen gelirini yüzde 30 artırdı. 2024'te piyasaya sürülen virtualization ürünleri şimdiye kadar 800 milyon dolarlık anlaşma kazandı ve 750 milyon dolarlık bir pipeline daha var — IBM bu sonucu kısmen VMware müşterilerinin taşınma arayışında olabileceğine bağlıyor.

Ana bilgisayar tarafında Krishna, mevcut nesil z17 sistemlerinin önceki herhangi bir modelden 1 milyar dolar fazla gelir ürettiğini ve yeni rack'e yerleştirilebilir makinelerin yaklaşık yirmi yıldır IBM Z'nin en güçlü orta segment lansmanı olduğunu söyledi. Ana bilgisayar geliri yine de yüzde 20 düştü; IBM bunu z17'nin yaklaşık 18 ay önce piyasaya çıkmış olması nedeniyle bekliyor. Şirketin hisse fiyatı borsa sonrası işlemlerde bir-iki puan düşüyle kapandı.

Ayrı olarak The Register, IBM Cloud'un bir severity-one olayı yaşadığını bildiriyor: "acil bakım" kullanıcıları 90 dakika boyunca yeni kaynak veya sanal özel bulut provision edememekten etkiledi. Classic Cloud kullanıcılarına — IBM'in 2013'te SoftLayer ile satın aldığı hizmet — provisioning'in Perşembe günü UTC 08:00'e kadar geri yükleneceği söylendi; bu da en az 16 saat süren bir olaya işaret ediyor. Çalışma, kritik PHP hatalarının ifşa edilmesinden birkaç saat sonra başladı; The Register IBM'ye ikisinin bağlantılı olup olmadığını sordu ve teyit alamadı.

Neden önemli

Büyük bir kurumsal teknoloji satıcısının CEO'su, açık ağırlıklı modellerin iş görevlerinin büyük çoğunluğunu frontier API'lerin maliyetinin onda biriyle hallettiğini açıkladığında, bu önemli bir pazar sinyalidir. Bu, kapalı model sağlayıcılarında fiyat baskısı yaratıyor, kurumsal yapay zekâ iş yüklerinin on-prem donanıma kaymasını hızlandırıyor ve sektörün darboğazını model kalitesinden operasyonel yeteneğe — GPU rack'lerini iyi çalıştırmak için gereken kernel, ağ ve clustering becerilerine — taşıyor.

O darboğaz tam olarak IBM'in satış yapmak istediği yer: Spyre hızlandırıcı kartları gibi dağıtım yazılımı ve donanımı. Krishna'nın rakamları pazar genelinde tutarsa, kurumsal yapay zekâ rekabetinin sonraki aşaması en iyi tek modele sahip olan arasında değil, o iki-üç rack'i kolay çalıştırılabilir kılan arasında verilebilir.