· kaynak TechCrunch
Microsoft'un Decision-1.1'i, karar modelleri Vercel AI Gateway trafiğinin dörtte birini oluştururken geldi
Vercel'ın AI model yönlendiricisinden geçen isteklerin dörtte birinden fazlası artık metin yerine yapılandırılmış yanıtlar döndüren bir sınıf olan karar modellerine gidiyor. Microsoft'un Decision-1.1'i hizmete yeni eklendi.

Karar modelleri Vercel trafiğinin dörtte birini ele geçirdi
TechCrunch'a göre, Ekim ayında Vercel'ın AI model yönlendiricisinden geçen isteklerin dörtte birinden fazlası, geleneksel dil modelleri yerine karar modellerine gitti. TechCrunch'un da belirttiği gibi, yaklaşık bir ay önce ortaya çıkmış bir model kategorisi için bu, üretim iş yüklerinde çarpıcı bir pay.
Karar modelleri hiç çıktı tokeni üretmeyen dil modelleridir. Bunun yerine, genel yeteneklerini kullanarak önceden belirlenmiş seçenekler arasında hızlı ve ucuz bir şekilde seçim yapar ve seçimlerinden ne kadar emin olduklarını bildirirler. TechCrunch'a göre bu, bir destek talebini yönlendirmek veya bir iş akışındaki bir sonraki adımı seçmek gibi hızlı ve kalibre edilmiş bir kararın, yavaş ve pahalı bir frontier modelin geniş muhakemesinden daha önemli olduğu üretim ortamlarına uygun.
Microsoft'un Decision-1.1'i AI Gateway'e geldi
Aynı gün Vercel, blogunda Microsoft AI'ın Decision-1.1'inin artık AI Gateway'de kullanılabildiğini duyurdu. Model, serbest biçimli metin yerine yapılandırılmış yanıtlar döndürüyor ve destek isteklerini yönlendirme, bir iş akışındaki bir sonraki adımı seçme veya AI yanıtlarını derecelendirme gibi görevlere yönelik.
Vercel üç soru türünü belgeliyor: Boolean, bir koşulun doğru olma olasılığını döndürüyor; Choice, seçilen bir kategoriyi tüm seçenekler için olasılıklarla birlikte döndürüyor; ve Score, geliştiricinin tanımladığı bir ölçek üzerinden sayısal bir puan döndürüyor. Tek bir istekte birden fazla soru aynı girdiyi paylaşabilir.
Geçiş bilinçli olarak basit tutulmuş. Decision-1.1, Decision-1 ile aynı istek formatını kabul ediyor ve geliştiricilerin yalnızca model kimliğini microsoft/decision-1.1 olarak değiştirmesi gerekiyor. Model, AI SDK, OpenAI uyumlu Decisions API veya AI CLI üzerinden çağrılabiliyor; Vercel, TypeScript için ai 7.0.128 veya sonraki sürümü, Python için ise OpenAI Python SDK 3.26.0 veya sonraki sürümü belirtiyor. Karar istekleri istek günlüklerinde görünüyor, bütçelere dahil ediliyor ve karar fallback'lerini destekliyor.
Gateway'deki bu çıkış, TechCrunch'un Microsoft CEO'su Satya Nadella'nın Salı günü modelin Azure'da geniş kullanıma hemen sunulduğunu söylediğini aktardığı haberin ardından geldi.
Haftalar içinde kurulmuş kalabalık bir alan
TechCrunch'a göre kategorinin yükselen yıldızı, Jev model ailesini piyasaya sürdükten sonra 7,5 milyar dolarlık bir değerlemeye ulaşan TypeSafe. Jev, metriklerin görünür olduğu yerlerde kullanımda hâlâ baskın: Yalnızca OpenRouter geçen hafta TypeSafe modellerine 1,5 milyardan fazla sorgu işledi.
Ancak pazara giriş engeli düşük. TechCrunch, Jev'in ardından onlarca karar modelinin ortaya çıktığını — bir Amazon mühendisinin bir hafta sonunda bir tane yaptığını — ve artık her hyperscaler'ın kendi seçeneğini sunduğunu bildiriyor.
Girişimler de akın ediyor. Kettei fat adlı bir karar modelinin arkasındaki Birleşik Krallık şirketi Sqwish, 3 milyon dolarlık bir pre-seed turu duyurdu. Cambridge'de yüksek lisans öğrencisiyken tanışan kurucular Ushnish Sengupta ve Federica Freddi, küçük LLM'ler geliştiriyordu ve Jev geldiğinde bu mimarilerin yeniden kullanılabileceğini fark ettiler.
Benchmark'lar yerine veri ve ayarlama
TechCrunch, kategoride belirleyici faktör olarak verinin öne çıktığını bildiriyor. TypeSafe CEO'su Diogo Almeida, Jev'i geliştirmenin en zor kısmının, istatistiksel olarak ayarlanmış sentetik veriyle modelin yargısını ince biçimde kalibre etmek olduğunu söyledi. Sqwish da sentetik veri kullanıyor, ancak kendini müşterinin kendi üretim verisini kullanarak modelin yargısını iyileştiren yerleşik post-training araçlarıyla farklılaştırıyor.
Sengupta, TechCrunch'a bir benchmark'ın "modeli denemeye bir davet" olduğunu, müşterilerin kalma nedeninin ise sürekli ayarlama olduğunu söyledi. Decision-1.1 projesini yöneten Microsoft mühendislik VP'si Achint Srivastava ise "benchmaxed" modellerin gerçek kurumsal kullanımda sınıfta kaldığını savundu ve Decision-1.1 ile Jev'in, hold-out benchmark'larda bile doğruluk, güvenilirlik, hız ve maliyet açısından güçlü performans gösteren az sayıdaki model arasında olduğunu öne sürdü.
Freddi, karar modelleri gibi "Sistem 1" zekasının giderek "Sistem 2" frontier LLM'lerle uyum içinde çalışacağını öngörüyor — ve bu daha dar dilimi bile 10 ila 50 milyar dolarlık bir fırsat olarak görüyor; devler için bir yan proje olarak kalırken bir girişim için yeterince büyük bir fırsat.
Neden önemli
Bir ay önce neredeyse var olmayan bir model sınıfı, büyük bir yönlendirme hizmetinde trafiğin dörtte birinden fazlasını taşıyor. Bu, AI iş yüklerinin üretimde nasıl bölündüğüne dair bir sinyal: Her şeyi yapan tek bir üretici model yerine, ucuz, hızlı ve yapılandırılmış yargı çağrıları ayrıştırılıp kararlar için özel olarak geliştirilen modeller tarafından ele alınıyor.
Geliştiriciler için yapılandırılmış yanıtlar kalıcı bir sorunu ortadan kaldırıyor — bir LLM'den serbest biçimli metni ayrıştırmayı — ve Vercel'ın tak-çalıştır model kimliği değişimi, yeni sınıfı denemeyi neredeyse ücretsiz hale getiriyor. Sektör için ise alanın bu hızla metalaşması, kalıcı avantajın modelin kendisi değil, arkasındaki veri ve sürekli ayarlama olduğunu gösteriyor; TypeSafe ve Sqwish de bahislerini tam oraya yapıyor.
- #decision-models
- #vercel
- #microsoft
- #ai-gateway
- #llms
- #machine-learning