Liquid AI'nin d1 karar modeli, vision desteğiyle Vercel'in AI Gateway hizmetine geliyor

Vercel, Liquid AI'den gelen karar modeli Liquid d1'yi, barındırılan modeller için birleşik erişim katmanı olan AI Gateway'e ekledi. 9 Ekim'de yayımlanan bir Vercel blog yazısına göre geliştiriciler, modeli diğer sağlayıcılar için zaten kullandıkları gateway üzerinden liquid/d1 tanımlayıcısıyla çağırabiliyor.

Bir karar modeli ne yapar

Günümüzde gateway'ler üzerinden erişilebilen modellerin çoğu üretken nitelikte: bir prompt verildiğinde metin üretirler. d1 farklı bir yaklaşım benimsiyor. Vercel'in tanımına göre model, bir uygulamanın paylaşılan durumunu inceleyip üç görev etrafında kurulmuş yazılı soruları yanıtlıyor: öğeleri sınıflandırma, istekleri yönlendirme ve değerleri puanlama. Bir yanıt oluşturmak yerine, olasılıkların eklendiği yapılandırılmış bir sonuç döndürüyor ve metin token üretimini tamamen atlıyor.

Pratikteki etkisi şu: bir destek temsilcisinin geri ödeme yapıp yapmadığını soran bir geliştirici — Vercel'in kendi örneklerinden biri — herhangi bir şey üzerinde işlem yapılabilmesi için önce ayrıştırılması gereken bir cümle değil, makine tarafından okunabilir bir yanıt alıyor.

Görsel girdi

d1 ayrıca görselleri kabul ediyor. Vercel'e göre model, resimlerle ilgili yazılı soruları yanıtlayabiliyor; bu da onu görsel içeriği sınıflandırma, inceleme ve puanlama gibi görevlere işaret ediyor. Duyuru bunu yerel bir PNG dosyasıyla gösteriyor ve modele görüntünün hangi rengi gösterdiğini tanımlaması soruluyor.

Dört çağırma yolu

Vercel, d1'yi birkaç arayüz üzerinden sunuyor:

• AI SDK'daki decision API
• düz HTTP API
• OpenAI uyumlu Decisions API
• TypeSafe uyumlu bir API

Dokümantasyon üç soru biçimini tanımlıyor — Choice, Score ve Boolean — ve d1, AI Gateway'de listelenen tek karar model değil; bu da Vercel'in kararları tek seferlik bir ekleme değil, başlı başına bir kategori olarak gördüğüne işaret ediyor.

Loglama ve bütçeler

d1 AI Gateway üzerinden çalıştığı için gateway'in gözlemlenebilirlik özelliklerini devralıyor. Vercel, karar çağrılarının loglarda göründüğünü ve herhangi bir başka model isteği gibi bütçelere sayıldığını belirtiyor; böylece ekipler d1 kullanımını ve harcamasını, metin üretim modelleri için zaten sahip oldukları kontroller altında takip edebiliyor.

Neden önemli

Üretimdeki makine öğrenmesi işlerinin büyük bir kısmı metin yazmak değil. Bir talebi yönlendirmek, bir kategori seçmek, bir yanıtı notlandırmak veya bir adımün başarıp başarmadığına karar vermek. Bugün bu iş genellikle bir sohbet modeline prompt verip çıktısını ayrıştırarak yapılıyor ve bu da kırılgan: biçimler bozuluyor, modeller temkinli davranıyor ve token düzeyindeki olasılıklar, kalibre edilmiş bir güvenin zayıf bir yerine geçiyor.

Yazılı sorulara yapılandırılmış, olasılıklı yanıtlar döndürmek için tasarlanmış bir model, ayrıştırma katmanını ortadan kaldırıyor. Çıktı doğrudan sıradan koda yerleşiyor — bir koşul ifadesi, bir yönlendirme tablosu, bir eşik denetimi — ve ekli olasılıklar, belirsizlikle açıkça başa çıkmayı mümkün kılıyor; örneğin düşük güvenilirlikli kararları bir insana veya daha büyük bir modele ileterek.

d1'yi AI Gateway'de barındırmak ayrıca onu denemenin eşiğini düşürüyor: mevcut gateway kullanıcıları, yeni bir tedarikçi ilişkisi veya ayrı bir faturalandırma hattı olmadan birleşik erişim, loglama ve bütçeleme kazanıyor. Vision desteği aynı deseni görüntü inceleme görevlerine genişletiyor ve platformdaki diğer karar modellerinin varlığı, içerik üreten modeller ile karar veren modeller arasındaki daha geniş bir ayrıma işaret ediyor — yaygınlaşırsa uygulamaların mimarisini şekillendirebilecek bir ayrım.