Xiaomi'nin 1M token multimodal bağlam sunan MiMo V2.6 modelleri Vercel AI Gateway'de

Ne oldu

Vercel, Xiaomi'nin MiMo V2.6 ailesini AI Gateway'e ekledi ve tek bir birleşik API üzerinden üç varyantı kullanıma sundu: MiMo V2.6 Pro, MiMo V2.6 Flash ve MiMo V2.6 Pro UltraSpeed. Vercel bloguna göre modeller doğrudan kodlama ajanlarına (coding agent) ve ajanların uzun süreler boyunca çalıştığı iş yüklerine yönelik.

Model ailesi

Vercel, MiMo V2.6'yı kodlama, akıl yürütme (reasoning) ve araç çağırma (tool-calling) yeteneklerini metin, görsel, ses ve videoyu doğal biçimde işleyebilmeyle birleştiren bir model olarak tanımlıyor. Bağlam penceresi 1M tokenı kapsıyor; Vercel bunun uzun kod depolarını, biriken araç izlerini ve birden fazla ajan oturumuna yayılan işleri sığdırmaya yetecek büyüklükte olduğunu vurguluyor. Model ayrıca yapılandırılmış çıktıları (structured output) destekliyor ve tek bir çağrıda 128K'a kadar çıktı tokenı üretebiliyor.

Üç kademe farklı ihtiyaçlara karşılık geliyor:

• xiaomi/mimo-v2.6-pro, toplam 1.02T parametreli ve token başına 42B parametre aktive eden daha büyük seyrek mixture-of-experts checkpoint'i. Vercel, bu modeli zorlu yazılım mühendisliği görevleri ve uzun süreli ajan işleri için öneriyor.
• xiaomi/mimo-v2.6-flash, toplam 309B parametreli ve token başına 15B parametre aktive eden daha küçük bir seyrek mixture-of-experts modeli. Vercel, bu modeli günlük ajan görevleri ve en üst düzey yetenekten çok hız ile maliyetin önemli olduğu multimodal otomasyon için daha verimli bir seçenek olarak konumlandırıyor.
• xiaomi/mimo-v2.6-pro-ultraspeed, Pro checkpoint'ini aynı yeteneklerle birlikte en fazla 20 kat çıktı hızıyla sunuyor ve gecikmenin (latency) önemli olduğu etkileşimli kullanım için tasarlanmış.

Nasıl başlanır

Vercel'e göre bir kodlama ajanda MiMo V2.6 kullanmak için geliştiricilerin en güncel Vercel CLI'ı kurması (npm i -g vercel@latest), vercel ai-gateway setup komutunu çalıştırması ve ardından ajandaki üç model kimliğinden birini seçmesi gerekiyor. Modeller doğrudan Vercel'in model playground'unda da denenebilir.

Gateway ne ekliyor

Yeni modellere erişimin ötesinde Vercel, AI Gateway'i üretim altyapısı olarak sunuyor: farklı sağlayıcıların modellerini çağırmak için birleşik bir API, kullanım ve maliyet takibi ile yeniden denemeler (retry), yük devretme (failover) ve performans optimizasyonlarının yerleşik olarak yönetilmesi — şirket bunun, bir model sağlayıcısını doğrudan çağırmaya kıyasla daha yüksek çalışma süresi (uptime) sağladığını söylüyor. Gateway ayrıca özel raporlama, tek tek API anahtarlarına bağlanabilen bütçeler ve yönlendirme kuralları içeriyor.

Neden önemli

Seyrek mixture-of-experts tasarımı bu yayının merkezinde yer alıyor. Pro, 1.02T parametresinin token başına yalnızca 42B'sini aktive ettiği için çok büyük bir modelin kapasitesini taşırken, çalışma maliyeti daha çok orta ölçekli bir modele yakın oluyor. Flash ise aynı dengeleri 15B aktive edilen parametreyle daha agresif biçimde kuruyor. Tüm depoları okuması veya uzun araç geçmişlerini taşıması gereken ajanlar kuran ekipler için 1M token multimodal bağlam ile 128K çıktı bütçesinin birleşimi, adımlar arasında durumu parçalara bölme, budama veya özetleme ihtiyacını azaltıyor.

UltraSpeed varyantı ise ayrı bir sorunu hedefliyor. Akıl yürütmesini ve ürettiği kodu akıtan (stream) ajan döngüleri, çıktı tokenları damla damla geldiğinde yavaş hissettiriyor; büyük bir checkpoint'i en fazla 20 kat çıktı hızıyla çalıştırma seçeneği, onu yalnızca toplu işlemler (batch processing) için değil, etkileşimli araçlar için de kullanılabilir kılıyor.

Son olarak, Xiaomi yapımı modellerin Vercel platformuna gelmesi, sınır (frontier) model pazarının ne kadar kalabalıklaştığının bir işareti. Daha çok telefon ve tüketici elektronikleriyle tanınan bir şirket, gateway'i zaten kullanan geliştiriciler için artık bir API rotası uzağında; Vercel için ise eklenen her dikkat çekici yeni model, birçok model sağlayıcısıyla ayrı ayrı ilişki yürütmek yerine sağlayıcıdan bağımsız tek bir katmandan geçiş yapmanın gerekçesini güçlendiriyor.