deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak dev.to (home feed)

Anthropic'ın beş dakikalık Claude mesaj dizileri konuşma saklamayı yeniden geliştiricilere yüklüyor

Anthropic'ın yeni Claude mesaj dizisi betası, agent'lara tüm geçmişi yeniden göndermek yerine yalnızca yeni turları gönderme imkânı tanıyor; ancak sunucu tarafındaki kopya beş dakika sonra sona eriyor, yani geliştiriciler konuşmaları yine de kendileri saklamak zorunda.

Anthropic'ın beş dakikalık Claude mesaj dizileri konuşma saklamayı yeniden geliştiricilere yüklüyor

Anthropic, Messages API'sinde mesaj dizilerini (message threads) herkese açık betaya taşıdı; böylece agent'lar bir konuşmayı bir kez yükleyip tüm geçmiş yerine yalnızca yeni turları gönderebiliyor. Gabriel Anhaia'nın dev.to'daki yazısında aktardığı gibi bu özellik istek yüklerini küçültüyor ve gecikmeyi azaltıyor; ancak sunucu diziyi istekler arasında yalnızca beş dakika canlı tutuyor — yani bir agent'ın konuşmasının gerçek evi yine geliştiricinin kendi deposu olmak zorunda.

Neler yayınlandı

Yazıda atıf yapılan Anthropic sürüm notlarına göre diziler 2 Kasım'da message-threads-2026-08-12 beta başlığı ve yeni bir thread istek alanıyla kullanıma açıldı. Daha önce bir agent döngüsünün 200. turu 1. tur gibi görünüyor, sadece daha büyüktü: bütün konuşma her seferinde yeniden yükleniyor ve yeniden tokenize ediliyordu. Artık tam geçmiş bir kez gidiyor ve sonraki istekler yalnızca en yeni mesajları plus önceki yanıtın id'sini taşıyor.

Anthropic'ın duyuru yazısı, 500K ile 1M token arası isteklerde ilk token'a kadar geçen sürenin medyanında yaklaşık yüzde 35 düşüş olduğunu iddia ediyor; ancak Anhaia bu rakamın Anthropic'ın kendisine ait olduğunu ve yalnızca çok uzun oturumlara uygulandığını belirtiyor. Dokümanlara göre diziler çoğu Claude Code kullanıcısı için zaten varsayılan olarak açık ve her modelde beta aşamasında. Özellik Claude API, AWS üzerinde Claude Platform, Google Cloud üzerinde Claude Models (Anthropic yönetiminde) ve Microsoft Foundry'de çalışıyor.

Oluştur, devam et, yeniden oynat

Üç istek biçimi var. Bir create isteği diziyi kuran normal ilk çağrıdır. Bir continue isteği yalnızca yeni mesajları gönderir ve önceki yanıta id ile referans verir. Bir replay ise tüm konuşmayı taşıyan yeni bir create'dir — sunucu artık devam edemediğinde kurtarma yoludur.

SDK'lar defter tutmayı üstlenen bir yardımcı sunuyor, ama elle yazılmış döngüler katı alan kurallarıyla karşı karşıya. System prompt ve araçlar yalnızca create'e özgü; continue'da gönderilmeleri, null olarak bile olsa, 400 döndürüyor. Model, tool_choice ve thinking gibi sabit parametreler özgün create ile eşleşmek zorunda, aksi halde API thread_fingerprint_mismatch yanıtını verir; max_tokens, stop_sequences, stream ve metadata ise serbestçe değişebilir. API ayrıca yinelenenleri ayıklamıyor, bu yüzden yanlışlıkla yeniden gönderilen bir mesaj konuşmada iki kez görünebiliyor. Her yanıt id'si yalnızca bir kez devam ettirilebilir, diziler yalnızca ekleme yapabilir (append-only) ve akış (stream) edilen yanıtlar yalnızca message_stop'tan sonra devam ettirilebilir.

Beş dakikalık sayaç

Dokümanlar dizileri "best-effort" olarak tanımlıyor. Sona erme penceresi API'nin depoladığı her yanılla sıfırlanıyor, ama yavaş bir test paketini ya da bir araç çağrısını onaylayan bir insanı bekleyen bir agent kolayca ölü bir dizinin başına dönebilir. Bu olduğunda continue isteği 404 thread_not_found ile başarısız olur ve hata hiçbir açıklama vermez. Listelenen nedenler arasında sona erme, API'nin sunup hiç depolamadığı bir tur, bir fallback modelinin yazdığı yanıt, farklı bir API anahtarı veya workspace ve daha önce görsel içermeyen bir konuşmada ilk görselin ortaya çıkması yer alıyor. Kritik nokta şu: hiçbir yanıt bir turun depolanıp depolanmadığını belirtmiyor — istemciler bunu ancak sonraki istekte fark ediyor. Diziler kalıcı depolama yerine bellekte yaşıyor ve son kullanımdan en fazla bir saat sonra siliniyor.

Aynı tokenlar, aynı fiyat

Dokümanlar dizilerin fiyatlandırmayı da hız limitlerini de değiştirmediğini belirtiyor; duyuru yazısı ise modelin her turda konuşmanın tamamını hâlâ okuduğunu, dolayısıyla token kullanımının değişmediğini açıklığa kavuşturuyor — yalnızca yükleme boyutu ve ön işleme yükü küçülüyor. Prompt caching hâlâ geliştiricinin işi: bir diziyi prompt'u otomatik olarak önbelleğe almıyor, yani cache_control kırılımları gönderilmeye devam edilmeli; 400 hatası öncesi istek başına en fazla dört tane kullanılabiliyor. Anhaia tasarımı OpenAI'nin Responses API'siyle karşılaştırıyor; onun previous_response_id'si de benzer şekilde geçmişi yeniden göndermeden turları zincirliyor — ama OpenAI yanıt nesnelerini varsayılan olarak 30 gün saklarken, Anthropic'ın dizisi dakika ölçeğinde ve bellekte yaşıyor.

Kalıcılık hâlâ senin işin

Dokümanların öngördüğü tasarım değişmedi: konuşmanın tamamını kendi tarafında tut, diziyi salt bir optimizasyon olarak gör ve replay yolunu ilk günden kur. SDK yardımcısı thread_not_found, thread_already_continued ve thread_continue_in_flight hatalarında bir kez yeniden dener, reddedilmelerden sonra yeni bir diziyi başlatır; ama konuşmayı yalnızca yardımcı nesnesi varken elinde tutar. Kuyruk işçisi, serverless fonksiyon veya yeniden başlayan başka herhangi bir şey olarak çalışan agent'lar mesajları harici olarak saklamak zorunda. Beta araç çalıştırıcısı da varsayılan olarak dizileri kullanıyor ve kapatılabiliyor.

Bazı kurulumlar dizileri hiç kullanamıyor: zero data retention ve HIPAA müşterileri dışarıda bırakılıyor, HIPAA hazırlığı veya inference hooks'a sahip org'lar reddediliyor, message batches, token sayımı ve on-demand compaction çalışmıyor, context editing dar bir mod dışında kullanılamıyor ve bir diziyi listelemek, okumak veya silmek için API yok.

Neden önemli

Beş dakikalık ömür, bunu kalıcılık özelliğinden keskin kenarlı bir gecikme optimizasyonuna dönüştürüyor. Uzun süre çalışan agent'lar — tam olarak dizilerin hizmet etmeyi hedeflediği iş yükleri — testler, incelemeler veya insan onayları sırasında rutin olarak beş dakikadan uzun duraklıyor; dolayısıyla dizilere dayanan her döngünün dayanıklı bir konuşma deposuna ve test edilmiş bir replay yoluna ihtiyacı var, yoksa üretimde başarısız olur. OpenAI'nin 30 günlük saklamasıyla aradaki fark, iki API arasında geçiş yapan ekiplerin ortak bir kalıcılık tasarımı kullanamayacağı anlamına da geliyor. Kısa oturumlar için kazanç minimal, çünkü yeniden gönderme maliyeti konuşma uzunluğuyla büyüyor; tek bir süreç içindeki uzun ve düzenli turlu döngüler için ise bu beta, dizisiz yolun geri dönüş olarak tutulduğu bir bayrak arkasında denenmeye değer.

  • #anthropic
  • #claude
  • #api
  • #ai-agents
  • #developer-tools

İlgili yazılar