deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak dev.to (home feed)

TielCoder 35B-A3B: açık kaynak kodlama modeli 22GB'de çok daha büyük rakiplerine denk performans gösterdi

dev.to'da yayınlanan bir benchmark yazısı, Qwen tabanlı MoE finetune olan ve koda özel 4-bit quantization'a sahip açık kaynak TielCoder 35B-A3B'nin, gerçek kod tabanı görevlerinde 22GB'a sığarken Opus 4.6 medium seviyesinde performans gösterdiğini iddia ediyor.

TielCoder 35B-A3B: açık kaynak kodlama modeli 22GB'de çok daha büyük rakiplerine denk performans gösterdi

Benchmark derlemesi ne iddia ediyor

25 Ağustos'ta dev.to'da yayınlanan bir yazı, 35B-A3B modellerinin topluluk benchmark'ını ele alıyor: toplam yaklaşık 35 milyar parametreye ancak token başına yalnızca 3 milyar aktif parametreye sahip seyrek mixture-of-experts modeller. Yazar, bunlardan birkaçını gerçek kod tabanlarından alınmış otantik problemler üzerinde test ettiğini ve TielCoder 35B-A3B'yi grup içinde hem doğruluk hem hız açısından en güçlü ve en tutarlı model olarak sıraladığını bildiriyor.

Manşon iddiası, TielCoder'ın 22GB'lık 4-bit quantization'ının bu görevlerde Opus 4.6 medium seviyesinde performans gösterdiği ve KAT-Coder ile Nail adındaki diğer 35B-A3B kodlama modellerinin önünde bitirdiğidir. Projenin belirtilen motivasyonu, Qwen 3.8 27B'nin mükemmel olmasına rağmen yavaş olması — yani gerçek problemleri hızlı çözen yalın bir MoE coder, gerçek bir boşluğu dolduruyor.

Kaputun altındaki üç değişiklik

Yazıya göre TielCoder, standart bir Qwen 35B modelinden üç açıdan farklılaşıyor:

  • Qwen 35B ailesinden Ornith tabanı üzerine kurulmuş bir finetune.
  • Koda odaklı dinamik imatrix quantization uygulanıyor; bunun en çok Q4 seviyesinde fark yarattığı bildiriliyor.
  • Qwen-Sharp adında optimize edilmiş bir chat template ile geliyor; yazara göre bu, modelin daha az token ile sonuçlara ulaşmasını sağlıyor — agentic coding iş akışlarında önemli bir avantaj.

Yazara göre birleşik etki, kodlama alanında standart Qwen 35B'den açıkça daha iyi olan ve aynı zamanda daha hızlı çalışan bir model.

Hız ile ham doğruluk karşısında

Yorumlarda Qwen 3.8 27B'nin neden karşılaştırmada yer almadığı sorulduğunda, peculiar-ragdoll olarak alıntılanan kullanıcı bunu bir takas olarak çerçeveliyor: orta efor seviyesinde Qwen 3.8 27B'ye kıyasla yaklaşık altı kat hız artışı, karşılığında genel olarak daha az görev çözmek. Başka bir yorumcu olan Anaeijon sonucu şöyle bağlama oturttu: Qwen 3.8 tüm A3B modellerini geçiyor, ancak bu bekleniyor, çünkü A3B modeller çok daha az donanımda çok daha hızlı çalışmak üzere tasarlandı.

Eğitime dirençli bir benchmark

Sonuçlar, yazıda agentic bir yazılım mühendisliği benchmark'ı olarak tanımlanan ve düzenli olarak yeni görevler ekleyen SWE Live'a dayanıyor; bu da test seti üzerine eğitim yapmayı imkânsız kılıyor. Yazar, bunu güvenilir bulduğu tek kodlama benchmark'ı olarak nitelendiriyor.

Nereden alınır

Ağırlıklar Hugging Face'te peculiar-ragdoll hesabı altında üç varyant halinde yayınlandı: standart GGUF dosyaları, MTP'li GGUF derlemeleri ve Apple Silicon'a yönelik oQ4e formatında bir MLX derlemesi.

Neden önemli

İddialar doğruysa, 22GB'lık bir ayak izi, sınırların civarındaki bir kodlama asistanını, bulut aboneliği gerektirmeden 24GB VRAM'e sahip sıradan tüketici GPU'larına taşıyor. Yazıda dikkat çekmeye değer daha ince bir nokta da var: üç büyük iyileştirmeden ikisi finetune'un kendisinden değil, quantization seçimlerinden ve chat template ayarından geldi. Modelleri yerel olarak çalıştıran herkes için bu, inference tarafındaki mühendisliğin eğitim kadar önemli olabileceğinin bir hatırlatıcısı.

Dikkat çekmesi gereken iki uyarı var. Buradaki her şey tek bir topluluk yazarına ait, kendi sonuçlarını kendisinin bildirdiği bir yazıdan geliyor; Opus 4.6 medium'a denk olmak da bağımsız bir değerlendirme değil, yazarın tek bir benchmark'taki değerlendirmesi. Bu arada yazıda belirtildiği üzere topluluk hâlâ Qwen3-Coder-Next'i bekliyor; Qwen'den gelen yerli MoE coder, bu kategorinin tamamını yeniden yazabilir.

  • #open-source
  • #llm
  • #coding-model
  • #quantization
  • #local-ai

İlgili yazılar