deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak Vercel blog

Liquid AI'nin d1.2 decision modelleri, ses ve bounding box desteğiyle Vercel AI Gateway'de

Vercel, Liquid AI'nin d1.2 ve d1.2-ultra decision modellerini AI Gateway'e ekledi; geliştiriciler artık ses ve görüntüleri sorgulayarak olasılık, kategori ve bounding box gibi yapılandırılmış yanıtlar alabiliyor.

Liquid AI'nin d1.2 decision modelleri, ses ve bounding box desteğiyle Vercel AI Gateway'de

Vercel, Liquid AI'nin d1.2 ve d1.2-ultra modellerini AI Gateway'e ekledi ve bu modeller alışıldık chat tarzı API'den oldukça farklı bir arayüz getiriyor. Vercel bloguna göre bunlar decision modelleri: metin üretmek yerine, kendilerine verilen girdi hakkında yapılandırılmış yanıtlar döndürüyorlar.

Metin üretimi yerine yapılandırılmış yanıtlar

Modeller, serbest biçimli prompt'lar yerine tipli sorularla çalışıyor. Vercel'e göre geliştiriciler Boolean sorular sorabiliyor (evet/hayır olasılıkları döndürüyor), Choice sorular sorabiliyor (bir kategori seçiyor) ve Score sorular sorabiliyor (bir girdiyi bir değerlendirme ölçeğine göre puanlıyor). Tek bir istekte birden fazla soru aynı girdiyi paylaşabiliyor; böylece tek bir dosya veya içerik tek bir çağrıda birkaç boyut boyunca değerlendirilebiliyor.

Sınıflandırma için ses girdisi

Ses desteği bu sürümün dikkat çekici bir parçası. Vercel'in örneği, voicemail.flac adlı bir sesli mesaj dosyasını okuyup arayan kişinin iade talep etme olasılığını döndürüyor. Bu, normalde önce sesin transkribe edilmesini, ardından metnin analiz edilmesini gerektiren bir sınıflandırma görevi. Örnek AI SDK 7 üzerinde çalışıyor, ai paketinin 7.0.136 veya daha yeni bir sürümünü gerektiriyor ve sesi state içinde bir file part olarak geçiriyor.

Görüntüler için bounding box

Modeller görüntüleri de kabul ediyor. Sınıflandırma için görüntü baytları, image/png gibi eşleşen medya türüyle birlikte geçiriliyor. Ayrı bir Box soru tipi ise koordinat döndürüyor: Vercel'e göre top ve bottom, görüntü yüksekliğinin kesirleri olarak; left ve right ise genişliğinin kesirleri olarak geri geliyor. Şirketin Python örneği, Decisions API'yi kullanarak bir form görüntüsündeki imzayı bulup bounding box'ını yazdırıyor; bu iş genellikle özel nesne tespiti sistemleri tarafından yapılır.

Hangi model seçilmeli ve faturalandırma nasıl işliyor

İki varyant hız ve doğruluk çizgisiyle ayrılıyor. Vercel'e göre d1.2 daha hızlı ve düşük maliyetli seçenek, d1.2-ultra ise Liquid AI'nin en doğru decision modeli. Modeller liquid/d1.2 ve liquid/d1.2-ultra olarak adresleniyor ve istekler, AI_GATEWAY_API_KEY olarak saklanan bir AI Gateway API anahtarı gerektiriyor.

Operasyonel tarafta, decision istekleri AI Gateway loglarında görünüyor ve diğer gateway trafiği gibi bütçelere dahil ediliyor. Model çağrılarını zaten Vercel üzerinden yönlendiren ekipler, yeni bir ölçüm veya gözlemlenebilirlik altyapısı olmadan decision endpoint'leri ekleyebiliyor.

Neden önemli

Çoğu model entegrasyonu, metin üretip yapıyı bundan çıkarma üzerine kuruludur: bir chat modeline prompt ver, JSON iste, yanıtı ayrıştır, çıktının saptığı uç durumları ele al. Bir decision modeli bu sözleşmeyi tersine çevirir. Yapının kendisi arayüz olur; ister bir olasılık, ister bir kategori, ister bir puan ister bir koordinat kümesi olsun; bu da triyaj, yönlendirme ve form işleme gibi sınıflandırmaya dayalı iş akışlarında sık görülan bir kırılganlık kaynağını ortadan kaldırır.

Ses yeteneği de aynı nedenden önem taşıyor. Sesli mesaj sıralama, çağrı yönlendirme ve benzeri ses iş akışları, sınıflandırma doğrudan ses üzerinde yapıldığı için ayrı bir transkripsiyon adımını atlayabilir. Bounding box çıktısı ise modelleri içeriği etiketlemenin öteye taşıyarak görüntüler içindeki nesneleri gerçekten konumlandırmalarını sağlıyor; bu alan genellikle özel bilgisayarla görü hizmetlerine ayrılmıştır.

Vercel açısından, üretici olmayan bir model ailesinin AI Gateway'e eklenmesi, gateway'in yalnızca chat modelleri için bir proxy olmadığını, genel bir çıkarım yönlendirme katmanı olarak konumlandığını gösteriyor. Liquid AI açısından ise decision modellerini, zaten Vercel platformu üzerinde geliştirme yapan geliştiricilerin önüne koyuyor.

  • #liquid-ai
  • #vercel
  • #ai-gateway
  • #machine-learning
  • #api

İlgili yazılar