Kimi K3.1 Pro, Vercel AI Gateway'de daha fazla Zero Data Retention sağlayıcısına kavuştu

Kimi modelleri için daha fazla Zero Data Retention seçeneği

Vercel, Moonshot AI'ın Kimi K3.1 Pro modeli ile daha hızlı varyantı Kimi K3.1 Pro Highspeed için AI Gateway üzerindeki Zero Data Retention (ZDR) kapsamını genişletti. Vercel blog'una göre, bu değişikliğe kadar Moonshot AI platformda bu modelleri sunan tek sağlayıcıydı ve ZDR kısıtlamasına tabi müşteriler tek bir yönlendirme seçeneğine sahipti. Artık her iki modele giden istekler de ZDR anlaşmalarına sahip daha geniş bir sağlayıcı havuzu tarafından karşılanabiliyor.

Modeller ne yapıyor

Vercel'e göre K3.1 Pro, önceki Kimi sürümlerinin üzerine inşa edilmiş olup kodlama, 3D modelleme ve finansal analiz alanlarında daha güçlü performans sunuyor; küçük bir düzeltmeden tam bir projeye kadar uzun agent oturumlarını sürdürebilecek şekilde tasarlanmış. Her iki varyant da bir milyon token'lık bir context window sunuyor ve görsel girdi kabul ediyor. Highspeed sürümü ise her yanıtın dönüş süresinin önemli olduğu kodlama agent'ları gibi etkileşimli çalışmalara odaklanıyor.

ZDR zorunluluğu nasıl işliyor

Bu gereksinimi iki mekanizma kontrol ediyor. Gateway sağlayıcı seçeneklerinde zeroDataRetention ayarını yapmak, ZDR'yi tek bir istek için zorunlu kılarken, AI Gateway panelindeki bir anahtar bu gereksinimi bir ekibin gönderdiği tüm isteklere — kodlama agent'larından gelen trafik dahil — genişletiyor. Bunlardan herhangi biri etkinleştirildiğinde, gateway yalnızca ZDR anlaşması kapsamında çalışan sağlayıcılara yönlendirme yapar. Belirli bir model için uygun sağlayıcı yoksa, istek böyle bir anlaşması olmayan bir sağlayıcıya sessizce geri düşmek yerine doğrudan başarısız olur — bu, gizlilik kısıtını pazarlıksız sayan fail-closed bir tasarımdır.

Modelleri çağırma

Geliştiriciler her iki modele de AI SDK, Chat Completions, Responses ve Anthropic Messages API'leri ya da gateway'e bağlı herhangi bir kodlama agent'ı üzerinden erişebilir. Tanımlayıcılar standart sürüm için moonshotai/kimi-k3.1-pro, daha hızlı sürüm için ise moonshotai/kimi-k3.1-pro-highspeed şeklindedir.

Claude Code, Codex ve Cursor gibi araçlar için Vercel, en son Vercel CLI sürümüne geçmeyi ve vercel ai-gateway coding-agents setup komutunu çalıştırmayı, ardından agent içinde iki Kimi modelinden birini seçmeyi öneriyor. Modeller ayrıca model playground'da da denenebiliyor.

Gateway arka planı

AI Gateway, modelleri çağırmak, kullanımı ve maliyeti takip etmek ile Vercel'in tek başına bireysel sağlayıcılardan daha yüksek çalışma süresi sunduğunu söylediği yeniden denemeler, failover ve performans optimizasyonlarını yapılandırmak için birleşik bir API katmanı olarak hizmet veriyor. Özel raporlama, ZDR desteği, API anahtarları için bütçeler ve yönlendirme kurallarıyla birlikte geliyor. Vercel, sağlayıcı fiyatlandırmasını artı uygulanmadan aynen geçiriyor ve çıkarım (inference) üzerinde — Bring Your Own Key istekleri dahil — hiçbir platform ücreti almıyor.

Neden önemli

Zero data retention anlaşmaları, düzenlemeye tabi sektörlerdeki ekipler için genellikle kesin bir zorunluluktur; çünkü prompt'ların ve çıktıların altta yatan sağlayıcı tarafından saklanıp saklanmadığını belirlerler. Şimdiye kadar bu ekipler, gateway üzerinde Kimi K3.1 Pro trafiğini gönderecekleri tam olarak tek bir yere sahipti; bu da tek bir sağlayıcı kesintisinin veya kapasite sorununun erişimi tamamen kesebileceği anlamına geliyordu. Daha fazla ZDR sağlayıcısının eklenmesi, saklama garantisini zayıflatmadan, bir gateway'i baştan cazip kılan failover ve yedekliliği geri getiriyor.

Fail-closed yönlendirme davranışı en az bunun kadar önemli: ZDR kısıtını karşılayamayan bir istek, veriyi kaydetme ihtimali olan bir sağlayıcıya sessizce ulaşmak yerine görünür bir şekilde başarısız oluyor. Agent destekli kodlama iş akışlarını veri işleme yükümlülükleriyle dengelemeye çalışan kuruluşlar için bu, yetenek ile uyumluluk arasındaki pratik bir boşluğu kapatıyor.