deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak dev.to (home feed)

Revolut, açık ağırlıklı GLM modelini kendi sunucularında çalıştırdıktan sonra yapay zekâ kodlama maliyetinde %90 düşüş bildirdi

Revolut, Z.ai'nin açık ağırlıklı GLM modellerini kendi altyapısında barındırarak yaklaşık 2.000 mühendis için yapay zekâ kodlama çıkarım (inference) maliyetlerini kabaca %90 düşürdüğünü ve kodlama süresinin yaklaşık %60 iyileştiğini açıkladı.

Revolut, açık ağırlıklı GLM modelini kendi sunucularında çalıştırdıktan sonra yapay zekâ kodlama maliyetinde %90 düşüş bildirdi

Revolut, yaklaşık 2.000 mühendisini varsayılan seçenek olarak frontier model API'lerinden kendi sunucularında barındırdığı açık ağırlıklı bir modele geçirerek yapay zekâ kodlama çıkarım maliyetlerini kabaca %90 düşürdü. Bu rakamlar, İngiliz fintech şirketinde yapay zekâ operasyonları ve altyapısından sorumlu David Abitbol'un New York'taki AI Engineer konferansında verdiği konuşmanın dev.to'daki yazısından geliyor; konuşma 29 Ekim 2026'da yayımlandı ve yazı 3 Kasım'da ortaya çıktı. Aynı dönemde kodlama süresinin yaklaşık %60 iyileştiği bildiriliyor.

Kendi sunucularında barındırma yolculuğu

Abitbol'un sunduğu zaman çizelgesine göre uygulama birkaç farklı aşamadan geçti:

  • 2025 başı: Gemini şirket genelinde dağıtıldı ve kodlama süresini yaklaşık %20 kısalttı.
  • 2026 başı: Bazı mühendisler ölçülebilir bir getiri sağlamadan aylık 1.000 ila 10.000 dolarlık token faturaları oluşturduğu için Claude Code, mühendis başına sıkı bütçeler altında geldi.
  • Nisan 2026: Revolut, Çinli laboratuvar Z.ai'nin GLM-5.1'iyle başlayarak açık ağırlıklı modelleri kendi donanımında sunmaya başladı ve token limitlerini tamamen kaldırdı.
  • Sonrasında: Şirket, token başına yaklaşık 40 milyar aktif parametreye sahip kabaca 754 milyar parametreli bir model olan GLM-5.3'e geçti ve yaklaşık 56 Nvidia B200 GPU'dan sunulacak şekilde yükseltti.

Claude Code ve OpenAI'nin Codex'i tamamen elden çıkarılmadı. Artık bir istisna listesinde yer alıyorlar ve kendi barındırılan kurulumun üstesinden gelemeyeceği işler için ayrılıyorlar; GLM yalnızca metinle çalıştığından, kullanıcı arayüzüyle ilgili görevler ve en zor problemler hâlâ frontier modellere yönlendiriliyor.

Revolut'un bildirdiği rakamlar

dev.to yazısı, bunların Revolut'un kendi rakamları olduğunu ve bağımsız olarak doğrulanmadığını vurguluyor:

  • Milyon token başına yaklaşık 0,30 dolar birleşik sunum maliyeti; önceki Anthropic ve OpenAI faturalarının kabaca onda biri.

  • Yaklaşık 2.000 mühendis genelinde kodlama süresinde %60, ele alma ile birleştirme arasındaki teslim süresinde %70 iyileşme.

  • Çıkarım ayarlamasının ardından ek GPU olmadan saniye başına %76 daha fazla istek ve ilk tokena kadar geçen sürede 14,3 saniyeden 1,7 saniyeye inerek %88 düşüş.

  • Kullanım artsa bile GPU filosu Nisan'dan Ağustos'a kadar 56 B200'de sabit kaldı.

Daha akıllı modeller yerine sınırsız token

Yazının verilerden çıkardığı temel yorum, hız kazanımının model kalitesinden çok sayacı kaldırmaktan geldiği yönünde. Mühendisler daha önce her API çağrısı bir maliyet taşıdığı için yapay zekâ kullanımlarını kısıtlıyordu; tokenlar marjinalde fiilen ücretsiz hale geldiğinde davranışlar değişti ve bu davranışsal değişim iyileşmeyi sağladı. Bu okumaya göre GLM, günlük işlerde yerini aldığı frontier seçeneklerden daha güçlü bir model değil — mühendislerin her isteği bir faturayla tartmadan kullanabildiği bir model.

Bir de uyum boyutu var. Revolut, model ağırlıklarını Z.ai'nin Çin'deki barındırılan uç noktasını çağırmak yerine ABD merkezli altyapıda çalıştırıyor; bu da mühendislik verilerini regüle edilen bankanın kontrolündeki donanımda tutuyor.

Uyarılar

Yazı, vaka çalışmasının sınırları konusunda açık sözlü:

  • Yeni modele geçiş, token limitlerinin kaldırılmasından izole edilemediği için manşet rakamları birkaç değişkeni birlikte barındırıyor.
  • Milyon token başına 0,30 dolar rakamı, bulut harcamalarını, personel ve gözlemlenebilirlik maliyetlerini kapsamıyor.
  • 56 GPU'luk bir B200 filosu önemli bir altyapıdır ve küçük bir ekip bunu doğrudan kopyalayamaz.
  • Verimlilik kazanımları yalnızca ağırlıkları indirmekten değil, sürdürülen çıkarım ayarlama çalışmasından geldi.

Neden önemli

Bu, kendi sunucularında barındırma yoluyla yapay zekâ maliyet kontrolünün belgelenmiş, büyük ölçekli kurumsal vaka çalışmalarından biri ve tam da birçok mühendislik organizasyonunun yapay zekâ kalemlerinin yükselişini izlediği bir ana denk geldi. Ayrıca model kalitesinin kodlama asistanı getirilerinde baskın değişken olduğu varsayımına meydan okuyor: Revolut'un bildirdiği kazanımlar, tokenları mühendislerin artık kısıtlamayı bırakacakları kadar ucuz hale getirmekten geldi.

Yazının ortaya koyduğu oyun kitabı — rutin işler için açık ağırlıklı modeller, istisnalar için frontier modeller — 754 milyar parametreli bir modelin ölçeklenmediği yerlerde bile küçülerek uygulanabilir. Daha küçük açık lisanslı modeller ve açık ağırlıklar için ucuz barındırılan çıkarım, bu stratejinin bir versiyonunu çok daha küçük ekiplerin erişimine sokuyor; yine de Revolut'un kendi altyapısına bağlı ve kendisi tarafından bildirilen somut rakamları, garantili bir şablon değil tek bir şirketin deneyimi olarak okunmalı.

  • #ai
  • #self-hosting
  • #open-source
  • #developer-tools
  • #fintech

İlgili yazılar