Google'ın Gemini Decisions API'ı yönlendirme sorularını tek geçişte, metin üretmeden yanıtlıyor

Dalgalanma için değil, dallanma için tasarlanmış bir model endpoint'ı

Sohbet modeli API'ları, bir insanın okuyacağı metni üretmek üzere tasarlanmıştır. Bir uygulamanın tek ihtiyacı bir araç seçmek, bir isteği sınıflandırmak ya da nereye yönlendireceğine karar vermek olduğunda, yaygın geçici çözüm bir sohbet modelinden JSON istemek ve dönen yanıtı ayrıştırmaktır. Google, tam olarak bu durum için bir şey geliştirdiğini söylüyor: dev.to'da bir yazıyla duyurulan Gemini Decisions API, kontrol akışı kararlarına adanmış bir endpoint.

Endpoint, Gemini Decision 1 adlı yeni bir model üzerinde çalışıyor. Yazıya göre, dar kapsamlı soruları tek bir ileri geçişte yanıtlıyor, hiç metin token'ı üretmiyor ve kalibre edilmiş olasılıkları yaklaşık 200 milisaniyede döndürüyor.

Tek paylaşımlı bağlam, 1.000'e kadar soru

Bir istek, metin, görüntü, ses, video ve PDF'leri karıştırabilen tek bir paylaşımlı girdiyi, 1.000'e kadar bağımsız soruyla eşleştiriyor. Sorular birbirini görmüyor ve paralel olarak değerlendiriliyor; dolayısıyla yazıya göre yanıt süresi tek soruluk bir çağrı ile yüzlük soruluk çağrı arasında neredeyse değişmiyor.

Tek bir istekte üç soru türü birleştirilebiliyor: evet/hayır kontrolleri, çoktan seçmeli seçimler ve sıralı rubrik tarzı puanlamalar. Her yanıt bir güven skoru taşıyor ve Google bunu yönlendirme mantığı için kanca olarak konumlandırıyor: modelin emin olduğu sonuçlar doğrudan kod yollarını tetikleyebilirken, emin olunmayanlar daha ağır bir akıl yürütme modeline ya da bir insana aktarılabilir.

Google, endpoint'ın kendi ürünlerinde halihazırda üretimde çalıştığını söylüyor. Gemini Notebook prompt'ları farklı model katmanlarına yönlendirmek için kullanıyor ve Stitch, konuşarak verilen düzenleme komutlarını wireframe'ler üzerinde canlı değişikliklere dönüştürmek için kullanıyor. Bu kullanım iddiaları duyuru yazısından geliyor ve bağımsız olarak doğrulanmadı.

Fiyatlandırma ve kullanılabilirlik

Girdi, milyon token başına 0,10 dolar üzerinden fiyatlandırılıyor ve paylaşılan bağlam, kaç soru eklendiğinden bağımsız olarak yalnızca bir kez faturalandırılıyor. Çıktı token'ları ücretsiz; bu da hiç çıktı üretmeyen bir modele uyuyor. API anahtarına Google AI Studio üzerinden ücretsiz erişilebiliyor; dokümantasyon da orada barındırılıyor.

Neden önemli

Bugün çoğu agent'ın dayandığı JSON-istemleme deseni gizli maliyetler taşıyor. Her yönlendirme kararı otoregresif metin üretimini bekliyor, model yanıtı markdown'a sardığında ya da fazladan bir alan eklediğinde bozulan ayrıştırma koduna bağımlı ve kimsenin okumadığı iskelet için çıktı token'ları harcıyor. Özel olarak tasarlanmış bir karar endpoint'ı bu üçünü de ortadan kaldırıyor.

Hız ve kalibrasyon iddiaları doğru çıkarsa, etki mimari düzeyde olur. Agent çerçeveleri, pahalı akıl yürütme modellerinin önüne koyabilecek ucuz ve hızlı bir kapı kazanır; yalnızca güven düştüğünde üst modele aktarım yapılır. Uygulama geliştiricileri, her görev için ayrı bir model eğitmeden ya da barındırmadan görüntü, ses ve belgeler üzerinde çok modlu sınıflandırma elde eder. Güven tabanlı aktarım da her ekibin logprob'lardan ve tahminlerden yeniden inşa ettiği bir şey olmaktan çıkıp API düzeyinde bir kavram haline gelir.

Dikkat edilmesi gereken nokta, buradaki her şeyin tek bir duyuru yazısına dayanması. Düz gecikme davranışı, kalibrasyon kalitesi ve dahili üretim kullanımı hep Google'ın kendi beyanları; geliştiriciler mimarilerini buna göre yeniden yapılandırmadan önce endpoint'ı mevcut prompt tabanlı yönlendirmeleriyle kıyaslAMak isteyeceklerdir.