deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak Google AI blog

Google'ın Gemini API'sine talep üzerine tool schema yükleme imkânı sunan Tool Retrieval önizlemesi eklendi

Gemini Interactions API'sindeki Tool Retrieval önizlemesi, agent'ların tool parametre şemalarını ertelemesine ve bunları talep üzerine yüklemesine olanak tanıyor; bu da input token sayısını azaltıyor ve kütüphane büyüdükçe tool seçiminin doğru kalmasını sağlıyor.

Google'ın Gemini API'sine talep üzerine tool schema yükleme imkânı sunan Tool Retrieval önizlemesi eklendi

Google, Gemini API'sinde önizleme olarak Tool Retrieval özelliğini kullanıma sundu. Bu özellik sayesinde agent'lar tüm tool kütüphanelerini yedekte tutabiliyor ve bir görev gerektirdiğinde parametre şemalarını talep üzerine çekebiliyor. Google DeepMind araştırma bilim insanı Nora Kassner'nin 19 Kasım'da Google AI blogunda yayımladığı yazıya göre özellik, agent tabanlı uygulamalardaki bir ölçeklenme sorununa odaklanıyor: bir agent'a onlarca, hatta yüzlerce tool bağlandığında her istekle birlikte tüm parametre şemalarını göndermek input token'larını şişiriyor, yanıtları yavaşlatıyor ve aday sayısı arttıkça modelin doğru tool'u seçmesini zorlaştırıyor.

Nasıl çalışıyor

Geliştiriciler özelliği, bir isteğe tool_search tool'u ekleyerek ve geri tutmak istedikleri tool'larda defer_loading: true ayarlayarak etkinleştiriyor. Model, ertelenen her tool'un adını ve açıklamasını hâlâ görüyor; dolayısıyla neler mevcut olduğunu biliyor, ancak parametre şemaları context dışında kalıyor. Model bir fonksiyona ihtiyaç duyduğunda o tool'u adıyla istiyor, API tam şemayı yüklüyor ve model fonksiyon çağrısını üretiyor — tümü tek bir isteğin içinde gerçekleşiyor.

Google'a göre arama şirketin sunucularında çalıştığı için derlenmesi veya barındırılması gereken bir index yok. Geliştirici kodundaki tek değişiklikler yeni tool bildirimi ve ertelenen tool'lardaki bir bayrak; sık kullanılan tool'lar baştan bildirilmiş olarak kalabilirken geri kalanlar ertelenebiliyor.

Her alma işlemi etkileşimin adımlarına kaydediliyor — bir tool_search_call, eşleşen bir tool_search_result ve bunun sonucunda oluşan function_call olarak — ki Google'a göre bu, tool adlarını veya açıklamalarını hata ayıklarken modelin hangi tool'ları değerlendirdiğini görmeyi kolaylaştırıyor.

Cache ve MCP desteği

Tool Retrieval, prefix caching ile uyumlu kalacak şekilde tasarlandı. Ertelenen şemalar prompt'un başında yer almıyor, modelin yüklediği şemalar ise konuşmanın ilerleyen bölümlerine ekleniyor; böylece cache'lenen prefix turlar boyunca sabit kalıyor.

Özellik ayrıca Gemini API'sindeki uzak MCP sunucularına da uzanıyor. Bir mcp_server tool'unda defer_loading: true ayarlamak, o sunucunun sunduğu tüm tool'ları erteliyor; böylece geliştiriciler büyük bir sunucuyu tool'larını tek tek saymadan bağlayabiliyor.

İstemci taraflı bir seçenek

Kendi tool registry'sini, embedding index'ini veya kullanıcı bazlı izin filtresini çalıştıran ekipler alma işlemini kendileri yürütebilir. tool_search aracını execution: "client" ile bildirmek ve özel arama parametreleri tanımlamak, aramayı uygulamanın eline veriyor; bunun bedeli arama başına bir ek gidiş-dönüş. Tool'ların baştan bildirilmesi artık gerekmediği için yenileri konuşma sırasında da tanıtılabilir — örneğin bir kullanıcı yeni bir entegrasyon bağladığında.

Fiyatlandırma ve model desteği

Google'a göre Tool Retrieval ayrı bir ücrete tabi değil: input ve output token'ları modelin standart oranlarıyla faturalandırılıyor. tool_search etkinleştirmek küçük ve sabit bir input token bloğu ekliyor; modelin yüklediği her şema, konuşmanın geri kalanında baştan bildirimle aynı şekilde input olarak faturalandırılıyor. Google bu dengeyi açıkça ortaya koyuyor — hiç yüklemediğiniz şemalar, yüklediklerinizden ağır basıyorsa tasarruf ediyorsunuz — ve şirket bu dengenin büyük kütüphanelerde tasarruf lehine sonuçlanmasını bekliyor. Google, geliştiricilere etkiyi kendi trafikleri üzerinde ölçmelerini öneriyor.

Özellik Interactions API'de mevcut ve Gemini 3.6 ile sonraki modellerle, tüm Gemini 4 modelleri dahil, çalışıyor.

Neden önemli

Entegrasyonlar çoğaldıkça tool seçimi, agent kalitesi üzerinde gerçek bir kısıt hâline geliyor. Modelin çağırabileceği her fonksiyon prompt'u büyütüyor ve seçimi zorlaştırıyor; MCP sunucularının yaygınlaşması ise tool sayılarının hızla artması anlamına geliyor. Tool Retrieval, fonksiyon çağırma sorununu bir bilgi erişimi (information retrieval) problemi olarak yeniden çerçeveliyor: model hafif özetler üzerinden akıl yürütüyor ve ayrıntıyı yalnızca gerektiğinde çekiyor; tıpkı retrieval-augmented generation'ın belgelerle yaptığı gibi.

Bu tasarım ayrıca benimseme maliyetini düşük tutuyor — çalıştırılacak altyapı, cache geçersizleştirmesi ya da yeni bir faturalandırma kalemi yok — ki bu da mevcut agent'lara sahip ekipler için pratik hâle getiriyor. Karşı ağırlıklar ise küçük ve sabit bir token yükü ile yükleme başına faturalandırma; dolayısıyla Google'ın tüm bir kütüphaneyi erteleminden önce gerçek trafik üzerinde test etme tavsiyesine uymakta fayda var.

  • #gemini
  • #google
  • #ai-agents
  • #function-calling
  • #api

İlgili yazılar