DeepSeek, deepseek-flash API uç noktasının arkasındaki modeli sessizce değiştirdi

DeepSeek, deepseek-flash'ın arkasındaki modeli kimseye haber vermeden değiştirdi

17 Ekim'de DeepSeek, deepseek-flash API uç noktasına hizmet veren modeli değiştirdi. Uç noktasının adı aynı kaldı, fiyat aynı kaldı ve hiçbir changelog kaydı ya da e-posta bu değişikliği duyurmadı; dolayısıyla Cuma günü yapılan bir istek ile Cumartesi günü yapılan başka bir istek iki farklı checkpoint'e ulaştı. Durum böyle aktarılıyor: frankchu adlı kullanıcı tarafından dev.to'da yayımlanan bir geliştirici analizinde, yazar yeni modelin herkese açık artefaktlarını indirmiş ve önbellek hesaplarını elle yapmış. Haber, Hacker News'te de en üst sıraya yerleşti; yazar kontrol ettiğinde 903 puan almıştı.

Yerine geçen checkpoint

Yeni model DeepSeek-V4.1-Flash-1017; Hugging Face'e MIT lisansıyla yayımlandı ve depo oluşturma zaman damgası 17 Ekim 02:40 UTC. Model, toplam 510.296.708.312 bayt, yani yaklaşık 510,3 GB tutan 48 safetensors parçasından oluşuyor. DeepSeek değişikliği küçük bir güncelleme olarak tanımladı, ancak dev.to yazısına göre şirketin kendi benchmark tablosu bu çerçeveyle çelişiyor: bildirilen 11 benchmark'ın tamamı iyileşti; Terminal-Bench 4.0 tam 11,1 puan, ProgramBench ise 8,8 pun yükseldi. Bunlar DeepSeek'in kendi test düzeneklerinde elde ettiği DeepSeek rakamları ve yazının yazarı, bunların bir masadan bağımsız olarak yeniden üretilemeyeceğini belirtiyor.

Config dosyası ne diyor

Yazar, özetlere güvenmek yerine doğrudan modelin config.json dosyasını çekti. Öne çıkan alanlar şöyle: 40 gizli katman ama compress_ratios içinde 43 girdi (beş katman 0 oranında, yirmi katman 1 oranında, on sekiz katman 2 oranında); 512 boyutlu tek bir paylaşımlı key-value head'e karşılık 64 attention head; 128 tokenlık bir sliding window; 1.048.576 pozisyonluk azami bağlam; yalnızca 2, 8, 14 ve 20 kimlikli dört katmanın uzun menzilli KV'yi karşılaması; 512 girdiyle sınırlı bir sparse attention indeksi; ve token başına altı aktif uzmanla 384 yönlendirilmiş uzmandan oluşan bir mixture-of-experts yapısı.

KV önbellek matematiği

Haber çevresinde dolaşan rakam, token başına 890 baytlık KV önbelleği; bu rakam "Pushing the Limits of KV Cache Compression" başlıklı bir makaleye bağlanıyor. dev.to yazarı ise sınırları config üzerinden hesapladı: her katmanın token başına bf16 formatında 512 boyutlu bir latent sakladığı varsayılırsa token başına 44.032 bayt, yani bir milyon tokenlık bağlamda 46,2 GB eder; aynı genişlikte vanilla bir multi-head attention transformer'ı token başına 880.640 bayt, kabaca 923 GB gerektirirdi; yalnızca dört kaynak katmanın 2 oranında sıkıştırılmış uzun menzilli KV sakladığı varsayılırsa token başına 2.048 bayt, yaklaşık 2,15 GB eder. Dolaşımdaki 890 rakamı en agresif olan bu sınırın bile altında kalıyor; yazar bunu, bf16'nın altında bir nicemleme artı kalan işi yapan sparse indeks olarak okuyor.

Daha keskin gözlem şu: Bu mimaride token başına bayt sabit bir değer değil. 128 tokenlık bir sliding window'a sahip katman, prompt 8.000 tokenlık da olsa bir milyon tokenlık da olsa 128 pozisyon tutuyor. Genelleştirildiğinde, yalnızca pencere maliyeti 8.192 tokenlık bağlamda token başına 688 bayttan, 131.072'de 43'e ve tam 1.048.576'lık bağlamda 5,4'e düşüyor; aynı model içinde iki büyüklük mertebesinde bir salınım. 890 rakamını üreten kişi belli bir uzunlukta ve belli bir katman karışımında ölçüm yapmış; rakam ise bu ikisi olmadan geziyor.

Fiyatlandırma ve yeni Search and Fetch API

DeepSeek'in yayımladığı tarifeler şöyle: önbelleğe alınmamış girdi token'ı için milyon başına 0,15 dolar, çıktı token'ı için milyon başına 0,60 dolar ve önbelleğe alınmış girdi okumaları için milyon başına 0,003 dolar; böylece önbellek isabetleri önbelleğe alınmamış girdiden 50 kat daha ucuz. Yazı, bu oranı sıkıştırma çalışmasının basın bülteninde değil tarifede kendini göstermesi olarak yorumluyor. The Decoder'ın özetlediği DeepSeek'in kendi DeepSWE grafiği, yeni modeli görev başına 0,20 doların hemen altında gösteriyor; rakipler içinse bu 2 ile 10 dolar arasında. Yazar bunu satıcının kendi test düzenekte çizdiği bir satıcı grafiği olarak işaretliyor, ancak yönetsel olarak herkese açık config ile tutarlı. Sürüm ayrıca 1.000 başarılı istek başına 0,75 dolar ücretli bir Search and Fetch API içeriyor; 31 Ekim 16:00 UTC'de faturalandırma başlayana kadar DeepSeek Harness, Claude Code ve Codex içindeki sunucu tarafı araçlar üzerinden ücretsiz.

Neden önemli

Yayımlanmış her ölçüte göre yeni model, yerini aldığı modelden daha iyi; dolayısıyla sorunun modelin kendisi olmadığı görünüyor. Sorun teslimatta: değişmeyen bir takma ad altında yapılan sessiz bir değişiklik, 17 Ekim'den önce deepseek-flash'a karşı yapılan her değerlendirme çalışmasının artık trafiğe hizmet vermeyen bir checkpoint'i tanımladığı anlamına geliyor. Ağırlıklar herkese açık ve checkpoint adı tarihli olduğu için sabitlenmiş, kendi sunucunuzda barındırılan bir dağıtım yeniden üretilebilir kalıyor; yalnızca kullanışlı API takma adı kullanıcıların ayaklarının altından kaydı. Veritabanı sürümlerini ve container imajlarını sabitleyen ama model uç noktalarının serbestçe değişmesine izin veren ekipler, bu hafta tam olarak bu politikanın bedelini gördüler: daha kötü bir model değil, test ettiklerinden farklı bir model. Yazının pratik dersi şu: checkpoint'i sabitleyin ve satıcı iddialarını config dosyasıyla doğrulayın; o en azından elle kontrol edilebilir.