· kaynak dev.to (home feed)
Qwen4-Max 1M token bağlam penceriyle genel API'ye ulaştı, llama.cpp 1.0.0 sürümüne geçti
Alibaba, Qwen4-Max'ı bir milyon tokenlık bağlam penceresiyle genel API'ye taşıdı; llama.cpp ise 1.0.0 sürümüne ulaştı ve C API'de kırıcı değişiklikler getirdi — dev.to derlemesine göre.

Qwen4-Max standart API'ye ulaştı
Alibaba, Qwen4-Max'ı önizlemeden çıkarıp API'sinde genel kullanıma sundu; dev.to'daki bir derlemeye göre fiyatlandırma artık standart token tabanlı. Model, bildirildiğine kadar toplam 2,4 trilyon parametreye sahip bir Mixture-of-Experts sistemi; her ileri geçişte bunların yaklaşık 71 milyarı aktif oluyor. Endpoint ise bir milyon tokenlık doğal bir bağlam penceresi sunuyor.
Rapora göre fiyatlandırma, milyon giriş başına 1,50 dolar ve milyon çıktı tokenı başına 4,50 dolar seviyesinde. Tek bir istekle tüm belge koleksiyonlarını göndermek isteyen ekipler için bu maliyet profili uygulanabilir; ancak uzun tamamlamalar üreten uygulamalar çıktı fiyatını hızlıca hissedecek.
Bu değişiklik özellikle erişim açısından önemli: Geliştiriciler artık modeli sınırlı önizleme erişimine veya sarmalayıcı (wrapper) servislere bel bağlamak yerine doğrudan üretim sistemlerine bağlayabilir.
llama.cpp 1.0.0'da stabilise oldu
Yerel çıkarım (inference) runtime'ı llama.cpp 1.0.0 sürümünü yayınladı. dev.to raporuna göre bu kilometre taşı, GGML uyumlu model desteğini yerel uygulamalara inşa etmek için oturmuş bir temel oluşturuyor. Ancak tamamen sorunsuz değil: C API'deki birkaç kırıcı değişiklik nedeniyle dil bağlayıcılarının (binding) ve下游 araçların geliştiricileri entegrasyon başlıklarını (header) gözden geçirmek ve yeni sürüme karşı yeniden derlemek zorunda kalacak.
Mevcut derleme hatlarına sahip projeler tek seferlik bir geçiş için bütçe ayırmalı. Derlemenin kendi önerisi, önce başlıkları güncellemek ve başka denemelere geçmeden önce derlemeyi temiz hale getirmek.
DeepSeek endpoint'ine yerleşik araçlar ekledi
DeepSeek de bu hafta endpoint'ini genişleterek kaynak gösteren web araması, akıl yürütme adımları sırasında çağrılan arama, PDF ayrıştırma ve URL okuma gibi yerleşik araçlar ekledi; bunlar deepseek_web_search ve deepseek_read_url gibi arayüzlerle sunuluyor. Şirket ayrıca API ile doğrudan tarayıcıdan konuşan, MIT lisanslı statik bir web istemcisi yayınladı; bu sayede araya bir Node.js veya Python servisi koymadan özel bir erişim arayüzü çalıştırmak mümkün oluyor.
Telefonda 80 milyar parametreli bir model
Donanım ölçeğinin öbür ucunda, açık kaynaklı smolmaxxing projesi, MoE katmanlarını boşaltan (offload) özel bir llama.cpp yaması kullanarak 80 milyar parametrelik bir MoE modelini OnePlus Nord CE 2 telefonunda çalıştırdı. Derlemeye göre kurulum, uzmanları (expert) 2 bit'e nicemliyor ve belleği kontrol etmek için katmanları yönlendiriyor; saniyede 2,6 ila 3,1 token hızına ve yaklaşık 5 GB'lık zirve bellek kullanımına ulaşıyor. Bu, rahat bir etkileşimli hızın çok altında; ancak telefon sınıfı donanımın, bellek trafiği dikkatli yönetildiği sürece cihaz üzerindeki (on-device) agent iş yüklerine katılabildiğini gösteriyor.
Aynı derleme, yapay zekâ kodlama agent'larının doğal dil prompt'larından doğrudan React ürün arayüzü demoları üretmesini sağlayan açık kaynaklı Stageshow becerisini de öne çıkarıyor — kontrol paneli düzenleri, mobil ekranlar ve senaryolu imleç hareketiyle animasyonlu vitrinler dahil.
Dikkatli yaklaşılması gereken doğrulanmamış raporlar
Derlemedeki iki madde açık bir belirsizlikle geliyor. Topluluk raporları, Codex ekibinin yoğun saatlerde tekrarlayan kapasite hataları için iç düzeltmeler üzerinde çalıştığına işaret ediyor; ancak resmi bir olay raporu henüz görünmedi. Erken tasarım sızıntıları ayrıca Gemini Notebook içindeki Comic artifacts için baştan yapılmış bir ayarlar sayfasına işaret ediyor; Google'dan veya dış testçilerden zamanlama konusunda bir teyit yok. İddiaların hiçbiri kesinleşmiş olarak değerlendirilmemeli.
Neden önemli
Manşetlerdeki iki sürüm, yapay zekâ dağıtım ölçeğinin iki karşıt ucunda yer alıyor ve ikisi de pratikliğe doğru ilerledi. Qwen4-Max, çok büyük ve çok uzun bağlamlı bir modeli standart API çağrılarının arkasına, çoklu belge çalışmalarını karşılanabilir kılan fiyatlarla yerleştirerek agent'lar ve analiz hatları için önizleme katmanı engelini ortadan kaldırıyor. llama.cpp'nin 1.0.0 etiketi ise yerel çıkarımın fiili standardını sürümlenmiş, stabil bir sözleşmeye dönüştürüyor — kırıcı değişiklikler tek seferlik bir maliyet olduğu için, yerel entegrasyonları sürdüren herkes için buna değer bir takas.
smolmaxxing gibi çabayla birlikte değerlendirildiğinde hafta, yönetilen frontier endpoint'ler ile uç (edge) donanımı arasındaki açığın daraldığına işaret ediyor; kısıtlı cihazlardaki gecikme belirleyici kısıt olmaya devam etse de. İki dünyada da geçerli tek uyarı şu: Uzun tamamlamalar gerçek paraya mal oluyor ve gözetimsiz token bütçeleri beklentiden hızlı büyüyebiliyor.
- #qwen
- #llama-cpp
- #api
- #local-inference
- #open-source