Liquid AI'nin d1-ultra karar modeli Vercel AI Gateway'de

Metin üretimi yerine karar verme için tasarlanmış çok modlu bir model olan Liquid AI'nin d1-ultra'sı artık Vercel'in AI Gateway'i üzerinden erişilebilir. Vercel blog'una göre geliştiriciler modele liquid/d1-ultra adıyla çağırabilir ve metin ile görselleri içeren sınıflandırma, yönlendirme ve puanlama görevlerinde kullanabilir.

Olasılıklarla yanıt veren bir model

d1-ultra serbest biçimli metin üretmez. Olasılıklar içeren yapılandırılmış yanıtlar döndürür; bu yaklaşım, çıktının doğrudan uygulama mantığına beslenmesi gereken iş yükleri için tasarlanmıştır.

Vercel üç soru türü özetliyor. Boolean sorgusu bir evet veya hayır yanıtının olasılığını döndürür; Choice sorgusu adlandırılmış kategoriler arasından seçim yapar; Score sorgusu bir girdiyi sıralı bir ölçek üzerinden değerlendirir. Aynı girdiye ait birden fazla soru tek bir istekte birleştirilebilir.

Kalibre edilmiş olasılıklara verilen önem, modelin ayırt edici özelliği. Vercel modeli zor gerçek dünya kararlarına uygun olarak konumlandırıyor ve döndürülen güven düzeyleri bir eşik olarak işlev görebiliyor: yüksek güvenli sonuçlar otomatik eylemleri tetiklerken sınır durumdaki vakalar insan incelemesine gidiyor.

Önerilen kullanım alanları arasında ürünlerin görsel kusurlar açısından incelenmesi ve hasar taleplerinin müşterilerin gönderdiği fotoğraflarla karşılaştırılarak denetlenmesi yer alıyor; her iki durumda da bir görselin ölçütlere göre değerlendirilip güvenilir bir karara dönüştürülmesi gerekiyor.

Context penceresi ve faturalandırma

Model 32.768 token'lık bir context penceresini destekliyor. Faturalandırması alışılmadık: ücretler yalnızca, görsel girişi de dahil olmak üzere girdi token'larına uygulanıyor ve çıktı token'ları için ücret alınmıyor. d1-ultra üretilmiş metin yerine olasılıklar ve kategorik seçimler yaydığından çıktı hacmi tasarımı gereği çok küçük ve fiyatlandırma da bunu yansıtıyor.

AI Gateway ile entegrasyon

Platform tarafında d1-ultra'ya AI SDK, OpenAI uyumlu bir Decisions API ve TypeSafe uyumlu bir API üzerinden erişilebiliyor; Vercel'in örnekleri üçünde de aynı soruyu soruyor. Karar çağrıları Gateway kayıtlarında görünüyor ve diğer modellere yapılan isteklerle birlikte bütçelere dahil edilerek ekiplerin kullanımı ve maliyeti tek yerden izlemesini sağlıyor.

Vercel ayrıca AI Gateway'in sağlayıcı fiyatlandırmasını bir kâr marjı eklemeden geçirdiğini ve kendi anahtarını getir (Bring Your Own Key) istekleri de dahil olmak üzere çıkarımda platform ücreti almadığını belirtiyor. Kod yazmadan denemek isteyen geliştiriciler modeli Vercel'in model playground'unda deneyebilir.

Neden önemli

Model kullanılabilirliği duyurularının çoğu yığına bir metin üretici daha ekliyor. d1-ultra farklı bir kategoriye ait: sınıflandırma ve yönlendirme için olasılıklar üreten bir model ve asıl tüketilen de birçok üretim iş yükünde — içerik eleme, moderasyon, dolandırıcılık denetimi, görsel inceleme gibi — tam olarak budur.

AI Gateway'i zaten kullanan geliştiriciler için bu ekleme, karar görevlerinin üretken modelleriyle aynı birleşik API, günlükleme ve bütçeleme üzerinden yürütülebileceği anlamına geliyor; yalnızca girdiye uygulanan faturalandırma ise maliyetleri önceden tahmin etmeyi kolaylaştırıyor. Kalibre edilmiş güven düzeyi pratikte de önemli: bildirilen olasılık gerçek dünya doğruluğunu güvenilir biçimde yansıttığında ekipler otomasyon eşiklerini bilinçli olarak ayarlayabilir ve gerçekten belirsiz vakalarda insanı sürecin içinde tutabilir.

Duyurunun kapsamadığı şey ise d1-ultra'nın kalibrasyonunun alandaki alternatiflerle nasıl karşılaştırıldığı. Geliştiriciler playground üzerinden ve Vercel'in işaret ettiği karar modelleri belgeleri aracılığıyla kendi görüşlerini oluşturabilir.