Pi'nin Codemode'u: bağlam şişmeden araçları orkestre etmek için agent harness içinde sandbox'lanmış JavaScript

Bir sentez olarak çerçevelenmiş bir tersine dönüş

6 Ekim'de lucumr.pocoo.org blogunda yayımlanan ve Hacker News'in ana sayfasına ulaşan geniş paylaşımlı bir yazı, yazarının bir yılı aşkın süre önce attığı bir argümana geri dönüyor: agent'lar, özel araçları veya MCP sunucularını bağlamlarına yüklemek yerine düz script'ler yazdıklarında daha iyi performans gösterir — buna Code Is All You Need başlıklı önceki bir yazı da dahil. Yazarının üzerinde çalıştığı agent harness olan Pi 1.0 artık MCP desteğiyle geliyor — ancak bu, bir modelin işini oluşturma biçiminin gitgide artan araç tanımları değil kod olduğu Codemode adlı bir özellik üzerinden gerçekleşiyor.

Araçları yığmanın aleyhindeki durum

Yazıya göre bir harness'ın sağladığı araç tanımları model tarafında token yapılarına dönüşüyor ve bir modelin bunlara hiç uzanıp uzanmaması pekiştirmeli öğrenmenin (reinforcement learning) ürünü. Takım bu yüzden CLI'e ve bash'a yaslanıyor: shell'ler kolayca birleşir ve modeller dosya sistemini zaten eğitimden tanır; dolayısıyla bir shell komutu bir dosya yazdığında, model o dosyanın var olduğunu bilir.

Ama bash'ın bir tavanı vardır: yalnızca çalışan programları birleştirebilir. Bazı yetenekler LLM'in kendisine özgüdür. Çok modlu (multimodal) bir model bir görüntüyü cat ile okuyamaz, çünkü harness'ın gerçek görüntü yükünü modelin protokolüne enjekte etmesi gerekir. Sub-agent'ları doğurmak ve koordine etmek de aynı şekilde harness'ın sağladığı araçlara bağlıdır ve yürütme ortamındaki kodun orkestratörle geri iletişim kurması ise kaba olarak tanımlanıyor.

Beyin ile eller arasındaki ayırıcı çizgi

Yazı, bir agent kurulumunu iki sisteme bölüyor: harness — güvenilir beyin — ve bash ile araçların gerçekten çalıştığı yürütme ortamı. Aynı makineyi paylaşabilirler ama ayrı dosya sistemleri ve farklı güven düzeylerine sahiptirler. Yazar, Gondolin gibi bir sandbox kurulumunun bash tarafını kısıtlarken harness'ın kendisinin sandbox'suz kaldığına dikkat çekiyor.

Codemode gerçekte nedir

Codemode köprüdür: modelin harness tarafındaki işlemleri ifade etmesinin ve orkestre etmesinin bir yolu. JavaScript'i harness içinde, WASM runtime'ı üzerinde QuickJS'te, bilinçli kısıtlamalarla çalıştırır — ağ yok, dosya sistemi yok, timer yok, sınırlı bellek. Bir Codemode script'inin yapabileceği tek şey daha fazla araç çağırmaktır. Cloudflare'e bu isim için atıf yapılır ve yazar, yaklaşımın JavaScript'e bağlı olmadığını; Scheme veya başka bir dilin de iş görebileceğini belirtir.

Kazanım bağlam ekonomisidir. Pi'de normal bir bash araç çağrısı, çıktının yalnızca son 2.000 satırını modelin bağlamına bırakır; kalanı bir taşma (overflow) dosyasına yazılır. Codemode'dan yapılan aynı çağrı, daha büyük çıktıyı script'e yapısal olarak teslim eder; böylece script onu sindirebilir ve yalnızca önemli olanı iletebilir.

Gerçek kod olduğu için Codemode agent'lara eşzamanlılık (concurrency) ve temel iş akışları da kazandırır. Yazarın gözlemlediği bir örüntü: agent, bir araç yanıtının biçimini öğrenmek için birkaç öğe örnekler, ardından bir sonraki grubu işleyen bir script yazar. Script'ler ayrıca aynı oturumdaki sonraki çağrılar için durumu (state) transcript'te saklayabilir — sandbox'ta değil, harness host'unda tutulur.

Bağlam şişmesi olmadan harness tarafında modeller

Codemode, sıradan araçlar olarak anlam ifade etmeyen API'lere de kapı aralar. Görüntü üretimi ve tek atımlık sınıflandırıcılar script'lere açılır ama normal araçlar olarak sunulmaz, çünkü yüklerini bağlamdan geçirmek boşa harcama olurdu. Yazı, gerçek Pi oturumlarından kod parçacıkları gösteriyor — yazar, kodların hiçbirinin insan tarafından yazılmadığını vurguluyor — bunlara bir görüntü üretim çağrısı ve 100 açık GitHub issue'sunu çekip hızlı bir duygu analizi için üzerinde Jev adlı bir sınıflandırıcı çalıştıran bir script dahil.

Pi'de Codemode yalnızca MCP etkin olduğunda varsayılan olarak açıktır; aksi halde "defaultTools": ["+codemode"] ayarıyla etkinleştirilebilir.

Neden önemli

Yazı, agent araçları için bir tasarma manifestosu gibi okunuyor. Özel yapım araç tanımlarını çoğaltmak — MCP ekosisteminin varsayılan yörüngesi — yerine, programatik API'lerle desteklenen küçük, genel bir yüzey (bir shell artı sıkı sandbox'lanmış bir script runtime'ı) savunulıyor. Bağlam hâlâ kıt kaynak ve kod, hacimli veriyi bağlamın dışında tutan sıkıştırma katmanı olarak davranıyor. Sert sandbox, sistemin güvenilir yarısında model yazımı kod çalıştırmanın bariz tehlikesine bir yanıtı da taslaklıyor. Agent harness veya MCP sunucusu yapan herkes için pratik çıkarım net: agent'ınızın koddan çağırabileceği yetenekler açığa çıkarın ve her görev için yeni bir araç basmaya direnin.