Microsoft Decision-1, sınıflandırma ve yönlendirme için Vercel AI Gateway'e katıldı

Ne oldu

Vercel blogunda yapılan duyuruya göre Microsoft'un Decision-1 modeli artık Vercel'in AI Gateway'i üzerinden erişilebilir durumda. Geliştiriciler modeli microsoft/microsoft-decision-1 adıyla çağırabilir ve erişim için standart bir AI Gateway API anahtarından fazlası gerekmiyor — ayrı bir Azure aboneliği ya da sağlanması gereken bir deployment yok.

Bu eklemeye dikkat çeken nokta, Decision-1'in genel amaçlı bir metin üreticisi olmaması. Model daha dar bir iş için tasarlandı: serbest düzyazı yerine, bir metin hakkında yapılandırılmış kararlar üretmek.

Yapılandırılmış kararlar için tasarlanmış bir model

Vercel'in tanımladığı şekilde Decision-1, girdi metni hakkındaki tipli sorulara üç biçimde yanıt veriyor. Boolean sorular evet-hayır yanıtı döndürüyor. Choice soruları modele adlandırılmış bir kategori kümesinden seçim yapmasını istiyor. Score soruları ise bir girdiyi sıralı bir kriter kümesine göre değerlendiriyor.

Her biçim, uygulama geliştirmede yaygın bir göreve karşılık geliyor. Vercel, destek taleplerini sınıflandırmayı bariz bir örnek olarak gösteriyor; bunun yanı sıra bir workflow'da sonraki adımı seçmek ve başka bir modelin yanıtını bir rubrik üzerinden notlandırmak da verilen örnekler arasında.

İki tasarım detayı öne çıkıyor. Birincisi, aynı girdiye yönelik birden fazla soru tek bir istekte birleştirilebiliyor; böylece tek bir mesaj ya da belge hakkında birkaç karar alması gereken uygulamanın her biri için ayrı bir çağrı yapması gerekmiyor. İkincisi, choice ve score yanıtları her seçenek için eklenmiş olasılıklarla geri geliyor. Bu, çağıran uygulamaya harekete geçebileceği bir güven sinyali veriyor: yüksek olasılıklı sonuçlar otomatik olarak ele alınabilirken, belirsiz olanlar inceleme için bir insana yönlendirilebilir.

Çağırmanın üç yolu

Vercel üç entegrasyon yolu sunuyor. AI SDK decision API, halihazırda AI SDK üzerinde geliştirme yapanlar için doğal seçenek. Ayrıca bu protokolle konuşan kodlar için OpenAI uyumlu bir Decisions API ve TypeSafe uyumlu bir API mevcut. Üçü de aynı anahtarla AI Gateway üzerinden geçiyor.

Tek fatura, tek log kümesi

Gateway yönü en az modelin kendisi kadar önemli. Vercel, AI Gateway'i birçok modele erişirken kullanımı ve maliyeti tek bir yerden takip eden birleşik bir katman olarak konumlandırıyor. Decision-1 çağrıları bu açıdan diğer herhangi bir istek gibi davranıyor: gateway loglarında görünüyor ve yapılandırılmış bütçelere dahil ediliyor; böylece modeli sınıflandırma veya yönlendirme için benimseyen ekipler altyapılarında izlenmeyen ikinci bir kalem oluşturmuyor.

Vercel ayrıca geliştiricileri, Choice, Score ve Boolean soru tiplerinin yanı sıra gateway'de bulunan diğer decision modellerinin kataloğunu da kapsayan decision dokümantasyonuna yönlendiriyor.

Neden önemli

Gerçek dünyadaki LLM işlerinin büyük bir kısmı metin üretmekle ilgili değil — küçük ve güvenilir kararlar almakla ilgili. Bu talep faturalama ekibine mi yoksa teknik desteğe mi gitsin? Bu yanıt kullanıcıya göstermek için yeterince iyi mü? Workflow'un hangi dalı sıradaki olarak çalışacak? Birçok ekip bunu şu anda bir chat modele prompt yazıp gelen yanıtı ayrıştıarak hallediyor; bu yaklaşım kırılgan olmaya, denetlenmesi zor olmaya ve güvenilir bir güven ölçüsü sunmamaya eğilimli.

Olasılıklarla birlikte tipli yanıtları doğal olarak döndüren bir model bu denklemi değiştiriyor. Sınıflandırmayı ve yönlendirmeyi prompt mühendisliğinden çok iyi tanımlanmış bir API çağrısına benzetiyor ve yerleşik güven değerleri, insana yönlendirme kalıbını uygulamayı kolaylaştırıyor. AI Gateway'e dahil edilmesi Azure kurulum engelini tamamen ortadan kaldırıyor; bu da o ekosistemdeki ekipler için deneme maliyetini düşürmeli. Agentic workflow'lar ya da otomatik kalite kontrolleri kuran herkes için, bilinmesinde fayda olan sessiz bir altyapı iyileştirmesi tam da bu türden.