Anthropic'in agent hafıza tasarımı, beynin uyku sırasında bilgi pekiştirme yönteminden ilham alıyor

Anthropic, yapay zeka agent'ları için hafıza tasarımı üzerine bir araştırma makalesi yayımladı ve sorunun insan bilişini andırdığını savundu: deneyimler anında kaydediliyor, pekiştirme ise daha sonra, beyin çevrimdışıyken gerçekleşiyor. Hacker News'in ana sayfasına taşınan makale, Anthropic'in Claude için hafıza yaklaşımını ve bunun arkasındaki değerlendirmeleri ortaya koyuyor.

Önce kaydet, sonra pekiştir

Anthropic tasarımı sinirbilime dayandırıyor. İnsan hipokampüsü deneyimleri gerçekleşirken kaydeder, ancak bunların yalnızca bir kısmı neokortekste uzun süreli bilgiye dönüştürülür — ve bu pekiştirmenin büyük bölümü, hipokampüsün uyku ve sessiz dinlenme sırasında yakın dönem deneyimleri yeniden oynattığı, beyin çevrimdışıyken gerçekleştiği düşünülüyor.

Şirket, agent'ların işi aynı şekilde bölebileceğini savunuyor. Agent'lar etkinliklerini zaten log'lara ve dökümlere kaydediyor; Letta ve UC Berkeley'deki araştırmacılar ise etkileşimler arasındaki boş zamanı bağlamı yeniden düzenlemek için kullanan "sleep-time compute" önerisini sundu. Anthropic aynı fikri hafızaya uyguluyor: bir agent, boş zamanında log'ları üzerinde düşünür, hataları düzeltir ve yeni notlar ile temsiller yazar. Şirket buna "rüya görme" diyor ve bunun Claude'a etkili hafıza kazandırmada yararlı bir araç olduğunu söylüyor.

Agent hafızası ne demek

Anthropic agent hafızasını dar bir biçimde tanımlıyor: Claude'un deneyimden — kullanıcılarla etkileşimlerden ve kendisine verilen görevlerden — kazandığı, oturumlar arasında kalıcı olan ve Claude'un daha sonra okuyabileceği bağlam bilgisidir. Bu tanım bilinçli olarak eğitim kaynaklı ağırlık değişimlerini, tek bir sohbet içindeki in-context learning'i ve Claude'un bağlam penceresi alanı açmak için eski tur özetlediği compaction'ı dışarıda bırakıyor.

Yinelenen bir tema, hafızanın bir tür tahmin olduğudur. Bir kural yazmak, o kuralın tarif ettiği kalıbın yeniden önemli olacağına dair bir bahistir; doğrulanmış bir olguya kaydetmek ise gelecekteki bir oturumun onu yeniden kontrol etmeden kullanabileceği varsayımına dayanır.

CL-Bench üzerinde bir öğrenme döngüsü

Bunu ölçmek için Anthropic, hafıza odaklı uzun soluklu işler için bir kıyaslama seti olan Continual Learning Bench (CL-Bench) 1.0'dan bir görev kullandı. Claude bir dizi veritabanı sorusunu yanıtlıyor, her yanıttan sonra doğru cevabı öğreniyor ve yeni oturumlarda kalıcı olan bir dizine hafıza yazabiliyor.

Art arda gelen model nesilleri giderek daha ileri gitti. Anthropic'e göre Claude Sonnet 4.6 yanlış cevaplar hakkında teoriler üretti ama test edilmemiş tahminlerle dolu dağınık dosyalar bıraktı. Claude Opus 4.7 notlarını tek bir başvuru belgesinde birleştirdi ve hangi olguları kontrol ettiğini işaretlemeye başladı. Claude Sonnet 5 yanıtları notlandırdıktan sonra onaylanmış olarak işaretledi ve yanlış olduğunda düzeltmeler yazdı. Claude Opus 5 döngüyü tamamlayan ilk model oldu; kuralları, onlara dair kanıtlarla birlikte daha önceki yanıtları ve keşfettiği tuzaklara dair uyarıları kaydetti. Claude Opus 5.5 ve Sonnet 5.5 de döngüyü tamamladı; hafızayla birlikte ikisi de yaklaşık Opus 5 kadar puan aldı, ancak hafızasız temel performansları biraz daha yüksekti.

Önemlilik algısının sınaması olarak Pokémon

En çarpıcı karşıtlık, her modele oyun sırasında okuyup yazabileceği bir hafıza klasörü verilen Pokémon Red koşularından geldi. Anthropic, kabaca 10.000. adım noktasındaki klasörleri karşılaştırdı.

Claude Sonnet 3.7 her şeyin önemli olabileceğini varsaydı. Tek tek savaşlar, eşyalar ve oyuncu olmayan karakterler için ayrı kayıtlar tutarak 225 klasörde 413 dosya üretti ve bir rozet kazandı. Oyun durumu sürekli değiştiğinden bu arşiv sürekli bayatladı ve agent giderek artan ölçüde sıralarını dosya yönetimine harcadı: kabaca 10.000. adım civarında, oyunda tek bir eylem yapmadan altı dosya oluşturup dokuz dosyayı silmek için 17 adım harcadı.

Buna karşılık Claude Fable 5, iki klasörde dokuz dosyanın yanı sıra en üst düzeyde bir global.md yazdı ve dört rozet kazandı. Anthropic'e göre fark, neyi depolamayı seçtiğindeydi: para veya harita konumu gibi her turda ekrandan okunabilen bilgiler atlanırken, yalnızca Claude kendi çalışıp ortaya çıkarırsa var olan strateji, planlar ve test edilmiş kurallar yazıldı. global.md dosyası güncel hedefi, spor salonu mücadelelerine yönelik planları ve modelin hafıza kullanımına dair kendi kurallarını tutan bir gösterge paneli işlevi gördü. Yakalanması en kolay Pokémon'lardan olan bir Magikarp'ı yakalamak için üst üste yedi Poké Ball başarısız olduktan sonra, art arda gelen başarısızlıkların ardından tuş zamanlamasını değiştirmeye dair bir kural kaydetti ve hemen ardından yakalamayı başardı. Claude Opus 5.5 benzer biçimde küçük ve aktif olarak bakılan bir klasör tuttu ve oyunu bitirdi. Yazı, Claude'u gerçekten yazmaya değer hafızaya yönlendirmeye ilişkin önerilerle sona eriyor.

Neden önemli

Uzun soluklu agent'lar, ileriye taşıdıkları şey kadar iyidir; Anthropic'in sonuçları, kıt becerinin depolama değil muhakeme olduğunu gösteriyor: ayrıntılı günlük tutmak performansı fiilen kötüleştirirken, damıtılmış kurallardan oluşan dokuz dosyalık bir klasör 413 dosyalık bir arşifi geride bıraktı. Değerlendirmeler ayrıca hafıza davranışının model nesilleri boyunca gelişen, ölçülebilir bir yetenek olduğunu gösteriyor — yapımcılar bunu prompt şansına bırakmak yerine kıyaslayabilir. Ve bu tür bir öğrenme ağırlık güncellemeleri yerine okunabilir dosyalarda yaşadığı için denetlenebilir: bir agent'ın ne bildiğini inceleyip düzeltebilirsiniz; bu da agent'lara daha uzun ve daha sonuç doğuracak işler emanet edildikçe önem kazanıyor.