Bir milyon yapay zeka ajanını ölçeklemek dağıtık sistemler sorunudur, kıyaslamalar bunu gösteriyor

InstaCloud blogunda yayımlanan ve Hacker News'in ana sayfasına ulaştıktan sonra geniş biçimde tartışılan bir deneme, bir milyon yapay zeka ajanını çalıştırmanın zor kısmının hiç de zeka olmadığını savunuyor. Asıl mesele, dağıtık sistem mühendislerinin onlarca yıldır üzerinde çalıştığı sorun: sınırlı kaynakları zamanlamak, arızalardan kurtulmak ve bütün resmi göremeyen işçileri koordine etmek.

Yazarın çerçevesi örgütsel. Tek bir ajan bir işçi; bin ajan bir örgüt; makinelerden oluşan bir örgüt ise bir dağıtık sistemdir. Ve insan işçiler gibi ajanlar da sınırlıdır — eldeki token, bağlam (context), işlem gücü, bellek, araç ve bütçe sınırlıdır ve bir şey her zaman tükenir. Denemenin merkezindeki tasarım önerisi de buradan doğuyor: kalıcı olması gereken ajan değil, durum olmalı. Ajanlar, zamanlanabilir, kesilebilir, yeniden başlatılabilir birimler olarak ele alınmalı; önemli olanı yazıya dökmeli ve kendilerinin ya da başka bir ajanın oradan devam etmesine izin vermelidir. Yazar, InsForge'daki kendi kodlama ajanlarının rutin biçimde öldürüldüğünü, yeniden başlatıldığını ve bağlamın tükendiğini, gerçekten zarar veren başarısızlıkların ise planın yalnızca bir bağlam penceresinin içinde yaşadığı durumlar olduğunu belirtiyor.

Araştırma zaten ajanları süreçler gibi ele alıyor

Deneme, yükselen bir araştırma hattasına yaslanıyor. Rutgers'tan gelen, LLM ajan işletim sistemi olan AIOS, her ajan isteğini sistem çağrılarına ayrıştırıyor — bir model çağrısı, bir bellek okuma, bir depolama yazma, bir araç kullanımı — ve bunları ilk gelen ilk işlenir (first-in-first-out) ve round robin gibi politikalar kullanan bir zamanlayıcı üzerinden yönlendiriyor. Bir bağlam yöneticisi ajanları görev ortasında anlık görüntüye alıyor; böylece duraklatılıp devam ettirilebiliyorlar ve makale, mevcut çerçeveler üzerine kurulu ajanlara hizmet verirken yürütmenin 2.1 kata kadar hızlandığını bildiriyor.

Bir seviye yukarıda, ACL 2026'da yayımlanan LLM-as-Scheduler adlı makale, sorguların çoğunun ağır bir çoklu ajan iş akışını hak etmediği gözleminden yola çıkıyor ve zamanlayıcının sorgu başına iş akışını seçmesine izin veriyor. Denemede alıntılanan rakamlara göre bu, yüzde 43 daha az token ve yüzde 36'nın üzerinde daha düşük uçtan uca gecikme sağlamış; doğruluktan en fazla 1.4 puan feda edilmiş.

Daha fazla ajan sonuçları kötüleştirebilir

Ölçeklemenin sıkıntı çıkardığı yer zamanlama değil, koordinasyon. Google Research ve MIT'den gelen, Ocak 2026 tarihli "Towards a science of scaling agent systems" adlı kontrollü çalışma, beş mimari ve üç model ailesi boyunca 180 ajan yapılandırmasını inceledi ve salt ajan eklemenin çoğu zaman bir tavana çarptığını, görevin özellikleriyle örtüşmediğinde performansı düşürebildiği sonucuna vardı.

Rakamlar görev biçimine göre keskin biçimde ayrışıyor. Ardışık akıl yürütme gerektiren görevlerde test edilen her çoklu ajan varyantı alternatiflerinden yüzde 39 ile yüzde 70 arasında daha kötü performans gösterdi; yazarlar bunu, iletişim yükünün akıl yürütmeyi parçalamasına ve eldeki "bilişsel bütçeyi" aç bırakmasına bağlıyor. Paralelleştirilebilir finansal akıl yürütmede ise merkezi koordinasyon performansı yüzde 80.9 artırdı. Platform tasarımcıları için en az bunun kadar önemli ikinci bir bulgu: orkestratör olmadan paralel çalışan ajanlar hataları 17.2 kata kadar büyütürken, merkezi bir orkestratör etkisini 4.4 katte sınırladı. Koordinasyon gerçek bir iştır ve birinin — ya da bir şeyin — onu yapması gerekiyor.

İletişim koordinasyon değildir

ACL 2026'da kabul edilen Silo-Bench adlı kıyaslama, iki ile 100 ajanlık takımları, hiçbir tek ajanın her şeyi görememesi için verinin parçalara bölündüğü otuz dağıtık algoritma görevinde, 54 yapılandırma ve 1.620 deney boyunca test etti. Ajanlar akranlarına mesaj gönderebiliyor, yayın yapabiliyor ve dosya paylaşabiliyordu; kendiliğinden koordinasyon topolojileri oluşturdular. Bu neredeyse hiç işe yaramadı. Yazarlar, ajanların dağıtık durumu doğru cevaplara dönüştüremediğini bildiriyor ve bu etkiye Communication-Reasoning Gap adını veriyor: yetenekli iletişimciler, zayıf dağıtık akıl yürütenler.

Bu boşluk ölçekle büyüyor. En zor, küresel ölçekte karıştırılmış görevlerde başarı oranı iki ajanla yüzde 36.2 iken 50 ve 100 ajanda sıfıra düştü; en kolay toplama görevleri bile iki ajanla yüzde 85'ten yüz ajanda yaklaşık yüzde 40'a geriledi. Bu rakamlar DeepSeek-V3.1 için ve üç iletişim protokolü üzerinden ortalanmıştır.

Neden önemli

Bu argüman doğrudan platform tasarımına düşüyor. Ajanlar süreçler gibi davranıyorsa, ajan platformlarının her ajanın sonsuza dek yaşadığı varsayımına değil, işletim sistemlerinin ve küme zamanlayıcılarının mekanizmasına — bağlam anlık görüntüleri, erişim denetimi, kesme ve kurtarma — ihtiyacı var. Koordinasyonun ölçülebilir bir maliyeti varsa, orkestratörler isteğe bağlı bir iskelete olmaktan çıkar ve hata büyümesini sınırlı tutan bileşene dönüşür. Ve kalıcı olan şey durumsa, checkpoint alma ve devir teslim sonradan akla gelen şeyler olmaktan çıkıp birinci sınıf temel yapı taşları olur.

Kıyaslama kanıtı, ajan filolarını ölçeklendirmeyi planlayan herkes için aydınlatıcı bir kısıt ekliyor: daha fazla ajan bir görevi fiilen kötüleştirebilir ve modeller şu anda tam da dağıtık sistemlerin onlara en çok ihtiyaç duyduğu yerde — kısmi görünümleri doğru bir bütüne dönüştürmede — en zayıf akıl yürütmeyi sergiliyor. Denemenin örtük iddiası şu: güvenilir milyon ajanlık sistemlere giden en hızlı yol, tesadüfen düşünebilen işçilere uygulanmış, onlarca yıllık birikmiş dağıtık sistemler pratiğinden geçiyor.