deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak Vercel blog

Mistral Large 4, Vercel AI Gateway üzerinde güncellenmiş ağırlıklar ve daha düşük token fiyatlarıyla geliyor

Vercel'in AI Gateway'i artık Mistral Large 4'ü, agentic kodlama ve siber güvenlik performansını iyileştiren yenilenmiş ağırlıklarla sunuyor; token fiyatları düşürüldü ve mevcut model ID'sinde herhangi bir değişiklik yapılmadı.

Mistral Large 4, Vercel AI Gateway üzerinde güncellenmiş ağırlıklar ve daha düşük token fiyatlarıyla geliyor

Mistral Large 4 artık Vercel'in AI Gateway'i üzerinde güncellenmiş ağırlıklarla çalışıyor ve bu değişiklik, input, cache'lenmiş input ve output tokenları için düşürülmüş fiyatlarla birlikte geliyor. Vercel bloguna göre, gateway üzerinden halihazırda mistral/mistral-large-4 modelini çağıran geliştiricilerin hiçbir şey yapması gerekmiyor: mevcut model ID'si yeni ağırlıklara yönlendiriliyor ve düşük fiyatlar otomatik olarak uygulanıyor.

Güncellenmiş ağırlıklar neyi değiştiriyor

Vercel, güncellemenin içeriğini Mistral'ın sürüm duyurusuna dayandırıyor. Yenilenmiş ağırlıkların agentic kodlama ve savunmaya yönelik siber güvenlik performansını iyileştirdiği, kodlama görevlerinde daha yüksek token verimliliği sunduğu belirtiliyor; yani model, benzer kodlama işlerini tamamlamak için daha az token tüketiyor ve bu durum, token başına yapılan fiyat indirimiyle birleşerek etkiyi katlıyor.

Duyuru ayrıca elektronik tablo oluşturma ve düzenleme, web araştırması ile prompt injection direncindeki iyileştirmeleri de listeliyor. Injection direnci iddiası, agent kullanım senaryoları için öne çıkıyor; çünkü web'de gezinen veya araç çıktılarını işleyen modeller rutin olarak güvenilmeyen metinlere maruz kalıyor.

Gateway üzerindeki fiyatlandırma

Vercel blogu, input, cache'lenmiş input ve output tokenları için daha düşük fiyatları doğruluyor ancak changelog kaydında token başına spesifik rakamlara yer vermiyor. Vercel, AI Gateway'in sağlayıcı fiyatlarını没有任何 markup yansıttığını ve çıkarım (inference) üzerinde BYOK (Bring Your Own Key) istekleri dahil hiçbir platform ücreti almadığını yineliyor; dolayısıyla indirimler platform tarafı bir indirim olarak değil, doğrudan gateway kullanıcılarına yansıyor.

Göç gerekmiyor

Tanımlayıcı değişmediği için bu dağıtım mevcut kullanıcılar için fiilen sessiz ilerliyor. Changelog kaydında önceki ağırlıklar için ayrı bir alias veya snapshot'tan bahsedilmiyor; bu yüzden değerlendirme (evaluation) amacıyla sabitlenmiş model davranışına bel bağlayan ekipler, başka hiçbir şeyin değişmediğini varsaymadan önce taban çizgilerini yeniden belirlemek isteyebilir. Yeni yetenekler ve daha düşük maliyet aynı string üzerinden geliyor.

Kodlama agent'lerinin içinde çalıştırmak

fx, Pi, Claude Code, Codex, Cursor veya diğer araçlarda kullanmak için Vercel, en güncel Vercel CLI'ı kurup npx vercel ai-gateway setup komutunu çalıştırmayı, ardından agent içinde mistral/mistral-large-4 seçeneğini seçmeyi öneriyor. Model, kod yazmadan doğrudan test etmek için Vercel'in model playground'unda da mevcut.

AI Gateway neyi üstleniyor

Vercel, AI Gateway'i modelleri çağırmak, kullanımı ve maliyeti takip etmek ve şirketin sağlayıcıdan daha yüksek çalışma süresi (uptime) sunduğunu söylediği retry, failover ve performans optimizasyonlarını yapılandırmak için birleşik bir API olarak konumlandırıyor. Hizmet ayrıca yerleşik özel raporlama, Zero Data Retention desteği, API anahtarlarına bağlı bütçeler ve model kataloğu genelinde yönlendirme kuralları sunuyor.

Neden önemli

İki şey bunu rutin bir sürüm güncellemmesinden fazlası yapıyor. Birincisi ekonomi: kodlama görevlerinde daha iyi token verimliliğinin, token başına düşen fiyatların üzerine binmesi, tam da token hacminin faturanın büyük kısmını oluşturduğu iş yükleri, yani uzun oturumlar çalıştıran kodlama agent'leri için çifte indirim anlamına geliyor. İkincisi teslim mekanizması: değişmemiş bir model ID'si altında yeni ağırlıkların sunulması, ekiplerin iyileştirmeleri ve tasarrufu varsayılan olarak, hiçbir kod değişikliği yapmadan kazanması anlamına geliyor; ancak bu aynı zamanda eski davranışta kalmanın kolay bir yolunu da ortadan kaldırıyor. Geliştirilmiş prompt injection direnci ise bu modellerin giderek daha fazlasının, güvenilmeyen içeriğin istisna değil kural olduğu açık web'i okuyan agent'lara bağlandığı bir dönemde zamanında bir ekleme.

  • #mistral
  • #vercel
  • #ai-gateway
  • #llm
  • #coding-agents

İlgili yazılar