Vercel, eve agentlarına kalıcı bellek slotları ekledi

Vercel blogunda yayınlanan bir yazıya göre Vercel, eve agentları için kalıcı bellek özelliğini kullanıma sundu. eve üzerinde geliştirilen agentlar artık bir oturumdan diğerine bağlam taşıyabiliyor ve sonraki konuşmalarda bu bağlamdan yararlanabiliyor; her etkileşime sıfırdan başlamak zorunda değiller.

Bellek slotları nasıl çalışıyor

eve'de bellek slotlar halinde düzenleniyor. Geliştiriciler agent/memory/ altındaki dosyalarda adlandırılmış slotlar tanımlıyor ve her slot iki şey bildiriyor: bellekleri saklayıp getirmeyi yöneten bir provider ve belleğin kiminle ya da neyle paylaşılacağını belirleyen bir scope. Vercel'in verdiği örnekte, kimliği doğrulanmış her kullanıcı için ayrı bir bellek tutuluyor; böylece bir kişinin kaydettiği bağlam asla başkasının konuşmasına sızmıyor.

Getirme döngüsü otomatik çalışıyor. Her turdan önce eve, konuşmayla ilgili belleği fetching edip modelin bağlamına ekliyor. Yazma işlemleri ise turdan sonra gerçekleşiyor: provider'a bağlı olarak bellek otomatik olarak, agentın çağırdığı tool'lar aracılığıyla ya da her ikisinin birleşimiyle güncellenebiliyor.

Yerleşik bir dosya belleği provider'ı

Vercel, tek bir komutla bağlanabilen yerleşik bir dosya belleği provider'ı sunuyor. Çalıştırıldığında, kimliği doğrulanmış her çağırıcıya kapsamlandırılmış bir slot oluşturuyor ve şu şekilde yapılandırılıyor:

ts import { defineMemory } from "eve/memory"; import { fileMemory } from "eve/memory/file"; import { byPrincipal } from "eve/memory/scope";

export default defineMemory({ description: "Remember useful details from previous conversations.", provider: fileMemory(), scope: byPrincipal, });

byPrincipal scope'u slotu kimliği doğrulanmış çağırıcıya bağlıyor ve kutudan çıktığı haliyle kullanıcı başına izolasyonu sağlayan da bu oluyor. Vercel'e deploy edilen agentlar için dosya provider'ının arkasında özel bir Vercel Blob deposu bulunuyor; böylece kaydedilen bellekler süreçle birlikte kaybolmak yerine yeniden başlatmalarda ve deploy'larda varlığını sürdürüyor.

Varsayılanın ötesindeki provider'lar

Provider soyutlaması dosyalarla sınırlı değil. Vercel, desteklenen bellek provider'ları olarak Supermemory, Upstash AgentKit ve Kybernesis Arcana'yı sayıyor; farklı bir depolama sistemi ya da bellek servisi isteyen geliştiriciler özel bir provider geliştirebiliyor. Bu, bellek katmanını Vercel'in kendi altyapısına kaynaklanmış halde tutmak yerine değiştirilebilir kılıyor.

Neden önemli

Bugünkü agentların çoğu hafızasız: bir oturum sona erdiğinde, modelin kullanıcı, görev ve konuşma hakkında öğrendiği her şey, biri elle bir retrieval katmanı yazmadıysa yok oluyor. Belleği agent tanımının bildirilmiş, birinci sınıf bir parçası haline getirerek eve, oturumlar arası sürekliliği özel bir mühendislik projesinden bir yapılandırma tercihine dönüştürüyor.

İki tasarım kararı öne çıkıyor. Birincisi kapsam (scoping): bir slot kimliği doğrulanmış bir principale bağlanabildiği için kullanıcı izolasyonu, sonradan eklenen bir şey değil varsayılan olarak sunuluyor; bu da gizlilik ve çok kiracılı (multi-tenant) deploy'lar açısından önemli. İkincisi provider ayrımı: bir ekip yerleşik dosya deposuyla başlayıp agentın kendisini yeniden yazmadan daha sonra özel bir bellek servisine geçebiliyor.

Duyurunun açık bıraktığı bazı ödünleşimler var. Her turdan önce bellek enjekte etmek context window tüketiyor ve gecikme ekliyor; turdan sonraki otomatik güncellemeler ise neyin hatırlandığını, neyin üzerine yazıldığını ve bunun nasıl yönetildiği sorusunu gündeme getiriyor. Changelog ayrıca eve'nin belirli bir tur için hangi bellekleri ilgili saydığına dair ayrıntı vermiyor. Bu sorular, bellekler uzun süre boyunca biriktikçe daha çok önem kazanacak.

Yine de bu özellik, zamanla hizmet verdikleri kişiler ve görevler hakkında bilgi biriktiren agentlara doğru atılmış somut bir adım ve Vercel'in yığınındaki geliştiricilere bu davranışı her proje için yeniden icat etmek yerine inşa edebilecekleri standart bir yer sunuyor.