deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak Hacker News – Front Page (hnrss.org)

Rapor: Revolut 2.000 mühendisi self-hosted GLM'e taşıdı, yapay zekâ kodlama maliyetini onda bire düşürdü

Hacker News'te dolaşan bir gönderi, Revolut'un yaklaşık 2.000 mühendisi günlük kodlama işi için self-hosted GLM'e taşıdığını, Anthropic ve OpenAI faturalarının kabaca onda birini ödediğini, frontier araçların ise yalnızca istisna olarak tutulduğunu iddia ediyor.

Rapor: Revolut 2.000 mühendisi self-hosted GLM'e taşıdı, yapay zekâ kodlama maliyetini onda bire düşürdü

Rapor ne iddia ediyor

Hacker News ana sayfasına kadar yükselen Guillermo Flor'un X'teki bir gönderisi, Revolut'un yaklaşık 2.000 mühendisini günlük kodlama işleri için self-hosted bir GLM kurulumuna taşıdığını, Anthropic'in Claude Code ve OpenAI'nin Codex araçlarının ise yalnızca kendi modellerinin baş edemediği durumlar için istisna olarak tutulduğunu söylüyor. Flor, konuyu gündeme getirdiği için Oliver Molander'a atıf yaptı.

Gönderi, rakamlarını Revolut'un yapay zekâ operasyonlarını yürüten kişi olarak tanıtılan David Abitbol'a dayandırıyor. İddia edilen rakamlar şöyle: dağıtım 56 Nvidia B200 GPU üzerinde çalışıyor, milyon token başına yaklaşık 30 sente denk geliyor ve şirket daha önce Anthropic ile OpenAI'ye ödediğinin kabaca onda birine mal oluyor. Gönderi ayrıca mühendislik teslim sürelerinin yüzde 70 iyileştiğini iddia ediyor.\n Açıkça belirtmekte fayda var: bu, Hacker News üzerinden aktarılan tek bir sosyal medya raporu. Mevcut materyalde Revolut veya Abitbol'dan ayrıntılı bir yazı eşlik etmiyor; bu yüzden rakamlar denetlenmiş gerçekler değil, aktarılan iddialar olarak okunmalı.

İşi yapan ayrıntı

İddianın en sonuç doğuran kısmı token başına fiyat değil, onun çevresindeki davranış değişikliği. Gönderiye göre verimlilik kazanımları ancak mühendiler yapay zekâ kullanımını dikkatli harcanacak bir şey olarak görmeyi bıraktığında ortaya çıktı. Tokenlar harici sağlayıcılar tarafından birim başına faturalandırıldığında, mühendisler araçları yalnızca en zor işler için saklıyordu. Bir tokenın marjinal maliyeti, şirketin zaten sahip olduğu donanımı çalıştırma maliyetine doğru düştüğünde ise asistanı her işe yönelttiler.

Bu çerçeve, kodlama asistanlarını değerlendiren herkes için önemli. Bu, token başına API fiyatlandırmasının benimseme üzerinde gizli bir gaz kelebeği gibi davrandığını öne sürüyor: ekipler yararlı bir aracı az kullanıyor, çünkü her istek görünür bir fiyat taşıyor. Altyapıya sahip olmak bu değişken maliyeti büyük ölçüde batık bir maliyete dönüştürüyor ve kullanım bu kapasiteyi dolduracak şekilde genişliyor. Bu okumaya göre, iddia edilen teslim süresi iyileşmesinin anlamlı bir kısmı GLM'in yerini aldığı frontier modellerden daha güçlü olmasından değil, kullanım hacminden gelmiş olabilir.

Neden önemli

Rapor doğruysa, diğer büyük mühendislik organizasyonlarının kopyalayabileceği bir şablon çiziyor: günlük işlerin büyük kısmı için kendi GPU'larınızda açık ağırlıklı bir model çalıştırmak — GLM, Zhipu AI'ın güçlü bir kodlama odağıyla açık şekilde yayımladığı model ailesi — ve nadir görülen zor durumlar için yükseltme yolu olarak frontier API'leri tutmak. Frontier laboratuvarlarının ürünü o zaman varsayılan altyapı değil premium bir katman haline geliyor; bu da tam olarak, o şirketler halka arz yolunda ilerlerken özgün gönderinin işaret ettiği fiyatlandırma sorunu.

Birim ekonomisi hikâyenin kalbi. İki bin mühendise hizmet veren 56 B200 GPU, veri merkezi standartlarına göre mütevazı bir ayak izi ve sahip olunan donanım token başına faturayı amortismanlı sermaye artı elektriğe dönüştürüyor. Ancak bu mantık iki yönlü işliyor: self-hosting yalnızca sürekli yüksek kullanım oranıyla karşılığını veriyor ve Revolut'un ölçeğine ya da platform mühendisliği gücüne sahip olmayan organizasyonlar aynı birleşik oranı yakalayamayacak.

İki uyarıyı aklıda tutmak lazım. Birincisi, buradaki her şey tek bir sosyal medya hesabına dayanıyor; milyon token başına 30 sent gibi bir birleşik oran, kullanım ve sermaye maliyetlerinin nasıl muhasebeleştirildiğine büyük ölçüde bağlı. İkincisi, kodlama asistanı kalitesi göreve ve model sürümüne göre değişiyor; dolayısıyla "her şey için yeterince iyi" iddiasını her organizasyonun kendi iş yüküne karşı test etmesi gerekiyor. Bu uyarılara rağmen, kurumsal yapay zekâ harcamalarının nereye gittiğine dair bir sinyal olarak — varsayılan olarak açık ağırlıklar, istisna olarak frontier modeller — bu, kamuya yansıyan en net veri noktalarından biri.

  • #ai
  • #llm
  • #open-source
  • #self-hosting
  • #developer-tools

İlgili yazılar