MiniMax M3.1 Flash, 428B MoE'yi sparse attention ile eşleştirerek agentic çıkarım maliyetlerini düşürüyor

Orta boy bir hesaplama faturasıyla gelen 428B'lik model

MiniMax, M3.1 Flash'ı 19 Ekim 2026'da yayımladı. Yayına ilişkin bir dev.to analizine göre model, token başına yalnızca yaklaşık 23 milyar parametreyi devreye sokan 428 milyar parametreli bir Mixture-of-Experts (MoE) modeli; saniyede medyan 170'ten fazla, zirvelerde 200'ün üzerinde token üretiyor ve fiyatı milyon girdi token'ı başına 0,15 dolar, milyon çıktı token'ı başına 0,60 dolar — yani öncülü M3'ten yaklaşık %70 daha ucuz.

MoE deseni artık model kapasitesini artırırken çıkarım maliyetini aynı oranda büyütmemenin standart yolu. M3.1 Flash'ta 428 milyar parametre birçok uzman alt ağa yayılmış durumda ve bir router, herhangi bir token'ı işleyen — toplamda kabaca 23 milyar parametrelik — küçük alt kümeyi seçiyor. dev.to yazısının aktardığıyla etki şu: tüm uzman havuzunda kodlanmış bilgiye erişirken, orta boy bir yoğun (dense) modele yakın bir hesaplama faturası ödemek. Uzun çok adımlı zincirler üzerine kurulu agentic iş yükleri için bu takas tam da meselenin kendisi: 400B sınıfı bir yoğun model gibi davranan token başına fiyatlandırma olmadan, sınır seviyede yetenek.

Milyon token'lık bağlamlar için sparse attention

Transformer çıkarımındaki diğer büyük maliyet sürücüsü, dizi uzunluğuyla kuadratik olarak ölçeklenen attention. M3.1 Flash, ilk üç katmandaki tam attention mekanizmasının yerine, tüm dizi yerine konumların bir alt kümesine bakan sparse alternatifler getiren MiniMax Sparse Attention (MSA) sunuyor. dev.to analizi, hangi katmanların değiştirildiğine dair bir gerekçeye dikkat çekiyor: en erken katmanlar özellik çıkarma işi yapıyor ve sparse desenler burada genellikle yeterli olurken, daha zor akıl yürütmeden sorumlu sonraki katmanlar tam attention'ı koruyor. Sonuç, yazının "kağıt üzerindeki bir rakam değil gerçekten kullanılabilir" olarak nitelendirdiği 1 milyon token'lık bir bağlam penceresi.

Daha hızlı çözümleme için amaca göre tasarlanmış bir draft head

Speculative decoding, küçük bir draft modelin aynı anda birkaç token önermesini ve ana modelin bunları paralel olarak doğrulamasını sağlıyor. M3.1 Flash, önceki EAGLE tarzı çoklu token tahmini kurulumunu bırakıp, modelin kendi mimarisine göre uyarlanmış ayrı bir draft head ile gelen DSpark düzenine geçiyor. Draft head'ın önerileri ana modelin çıktı dağılımıyla iyi hizalandığından daha az token reddediliyor ve verimlilik kazanımı pratikte korunuyor. MiniMax, NVIDIA Blackwell donanımında (B200, B300, GB200, GB300) medyan olarak saniyede 170'in üzerinde, zirvelerde 200 TPS'yi aşan çıktı hızları bildiriyor — agent'lar uzun tool-call dizileri veya kod blokları ürettiğinde fark yaratan bir ayrım bu.

Eğitimle kazanılmış dört bit hassasiyet, sonradan eklenmemiş

428 milyar parametreyi pratik serving donanımına sığdırmak, eğitim sonrası nicemleme yerine nicemleme-farkındalıklı eğitim (QAT) gerektirdi. Yönlendirilen MoE uzmanları NVFP4'e (4-bit ağırlık ve 4-bit aktivasyon), sparse-attention indeksleyicisi ile ana dal ise Q8KV4'e nicemlenmiş. QAT, modeli eğitim sırasında nicemleme etkilerine maruz bırakarak bunların etrafında öğrenmesini sağlıyor; düz eğitim sonrası 4-bit nicemlemenin akıl yürütme görevlerine zarar verdiği biliniyor. Analize göre sonuç, bellek ayak izinin çok küçük bir bölümünde tam hassasiyete yakın doğruluk.

Akıl yürütme çabası bir anahtar değil, bir kadran

Geliştiriciler, chat template üzerinden akıl yürütme çabasını beş seviyeden birine ayarlayabiliyor: low, medium, high, xhigh veya max. Akıl yürütme kapatılamıyor: bunu denerseniz API hata döndürüyor. Tasarım amacı, modelin her zaman bir ara akıl yürütme turu çalıştırması ve kadranın yalnızca bu düşünme sürecinin ne kadar süreceğini değiştirmesi.

Benchmark'lar ve erişilebilirlik

MiniMax'ın yayımladığı skorlar arasında CyberGym'de (güvenlik açığı keşfi) %82, BankerToolBench'te (finansal araç kullanımı) 76,2, DeepSWE v1.1'de (yazılım mühendisliği) %73,7, OSWorld V2'de (bilgisayar kullanımı) 61,7 ve Agents' Last Exam'de 29,6 var. dev.to analizi siber güvenlik ve kodlama sonuçlarını güçlü olarak yorumluyor, OSWorld V2 skorunu masaüstü gezinme görevlerinde en iyi performans gösterenler arasında konumlandırıyor ve düşük Agents' Last Exam rakamını model zayıflığından çok o benchmark'ın zorluğuna bağlıyor. Model metin, görüntü ve videoyu doğal olarak kabul ediyor, vLLM, SGLang ve TokenSpeed runtime'larında çalışıyor ve ağırlıkları Hugging Face'te mevcut.

Neden önemli

Agentic pipeline'lar token başına maliyetleri katlıyor: çok adımlı görevler, uzun bağlamlar ve çok sözlü tool-call çıktılarının hepsi her istekte birikiyor. M3.1 Flash'ın önemi, tek bir sayıdan çok, üç çekimtekniğinin — sparse attention, eşleşen speculative draft head ve eğitim zamanlı nicemleme — tek bir sistem olarak mühendislik edilmiş olmasında yatıyor; böylece 428B'lik bir model, çok daha küçük bir modelin maliyet ve gecikmesiyle sunulabiliyor. Kodlama asistanları, bilgisayar kullanımı agent'ları veya finansal otomasyon yapan ekipler için bu, yoğun ölçekli altyapı olmadan sınır seviyede yetenek vaat ediyor. Bir uyarı: performans, hız ve maliyet rakamlarının tümü MiniMax kaynaklı ve tek bir dev.to yazısı üzerinden aktarılmış durumda; bağımsız doğrulama henüz yapılmadı.