Prime Intellect, Prime Agent'ı 2.000'den fazla agent'tan oluşan bir sürü ile Rust'ta yeniden yazdı

Prime Agent kendini Rust'ta yeniden inşa etti

Prime Intellect, şirketin kodlama ve çoklu agent orkestrasyonu için agent harness'i olan Prime Agent'ı sıfırdan Rust ile yeniden yazdı ve yayınladı. Hacker News ana sayfasına ulaşan Prime Intellect blog yazısına göre, orijinal TypeScript sürümü Ağustos'taki lansmanından bu yana 300.000'den fazla kez indirildi ve 8 trilyondan fazla token işledi. Yeniden yazım daha hızlı, daha az kaynak tüketen ve daha güvenilir olarak tanıtılıyor; Windows desteği ve oturum başına çökme izolasyonu gibi yeni yetenekler de içeriyor.

En dikkat çekici ayrıntı ise taşımayı kimin yaptığı: Prime Agent'ın kendisi.

Taşımayı bir agent sürüsü yaptı

Prime Intellect'e göre iki hafta boyunca tek bir kök agent, 10.000'den fazla Prime Sandbox genelinde 2.000'den fazla agent'tan oluşan bir sürüyü koordine etti ve Prime Inference'ın GLM-5.3 endpoint'inden 200 milyardan fazla token çekti. Kök agent ürün kodunun hiçbirini yazmadı. Bunun yerine, yeniden yazımı topolojik olarak sıralanmış bir görev grafiğine böldü, her görevi takip etti, tamamlanan işleri birleştirdi ve öncelikler konusunda insan ekip ile birlikte çalıştı.

Her görev dört farklı agent'tan geçti:

• Bir planner, spesifikasyonu, özellik tasarımını ve TypeScript uygulamasından alınan referans davranışı üretti.
• Bir implementer, Rust kodunu izole bir worktree'de yazdı; böylece özellikler paralel olarak ilerleyebildi.
• Bir reviewer, pull request'i çelişkili bir gözle inceledi; değişikliğin neden yanlış olabileceğini bulmak için ayrı bir bağlamda farklı bir model kullandı.
• Bir verifier, kodu derledi ve eşdeğerlik kontrollerini ve testleri taze bir sandbox içinde çalıştırdı.

Başarısız bir inceleme veya doğrulama, görevi bulgularla birlikte implementer'a geri gönderdi ve bir pull request yalnızca ikisi de geçtikten sonra birleştirildi. Prime Intellect, kod üretimini değerlendirmeden kasıtlı olarak ayırdı; kendi çıktısını yargılayan agent'ın kendi lehine taraflı olacağı görüşündeydi. Operasyon, her biri 100'den fazla eşzamanlı alt agent'ı sürdüren iki 8 çekirdekli CPU node'u üzerinde koştu; derleme, tip kontrolü ve diff işlemleri tek bir makineyi doyurmayı önlemek için sandbox'lara devredildi.

TypeScript sürümüyle eşdeğerliği kanıtlamak

Scriptli testler her şeyi kapsayamadığı için Prime Intellect dört kategoride nesnel eşdeğerlik kontrolü oluşturdu. Farklılaştırılmış bir test paketi, TypeScript ve Rust binary'lerini aynı scriptli modele karşı yan yana çalıştırdı ve her birinin ekrana çizdiği terminal karelerini karşılaştırdı; bu, başlatma, menüler, araç çağrıları, oturum sürdürme, alt agent'lar ve çökme kurtarmayı kapsıyordu. Harness eşdeğerliği, oturum transkriptlerini ve her binary'nin model sağlayıcılarına gönderdiği istekleri karşılaştırdı. Protokol eşdeğerliği, her daemon mesaj türünü orijinal uygulamaya karşı doğruladı. Son olarak, agent'lar TypeScript ürününü bileşen bileşen denetledi ve her birini eşleşen, kısmi veya eksik olarak sınıflandırdı.

Bu nesnel ölçümler, agent'ların kendi ilerlemelerini takip etmelerini ve birleştirmeden önce gerilemeleri yakalamalarını sağladı; Prime Intellect bunun insan incelemesi ihtiyacını azalttığını söylüyor. Çekirdek döngü eşdeğerliğe ulaştığında ekip, yeniden yazım agent'larını Rust yapısına taşıdı ve yeni sürümün kendini geliştirmesine izin verdi; daha sonra dahili kullanıcıları da günlük kullanım için bu sürüme geçirdi ve farklılaştırılmış testlerin kapsamı dışındaki hatalar burada ortaya çıktı.

Rust neyi değiştirdi

Prime Intellect'in TypeScript ile ilgili dile getirdiği sıkıntılar arasında çalışma zamanında kaybolan tipler, kontrolsüz exception olarak dolaşan hatalar, tek bir event loop üzerinde klavye girdisiyle rekabet eden CPU yoğun render işlemleri ve JavaScript runtime'ı ile garbage collector'ın süreç başına maliyeti yer alıyor. Oturum başına bir worker süreç barındıran uzun ömürlü bir daemon için Rust, garbage collector içermemesi, Send ve Sync trait'leri üzerinden derleyici tarafından kontrol edilen thread güvenliği ve kapsamlı enum'lar, ownership, lifetime'lar ve katı Clippy lint'lerinden gelen derleme zamanı garantileri sunuyor. Şirket, agent'lar kodun çoğunu yazdığında bu son kısmın daha da önemli olduğunu belirtiyor.

Taşıma ayrıca kod tabanını, Cargo tarafından zorunlu kılınan tek yönlü bir bağımlılık grafiğine sahip dokuz crate'e yeniden yapılandırdı. En büyük kaynak dosya TypeScript'teki yaklaşık 15.000 satırdan kabaca 2.500 satıra küçüldü ve artık hiçbir dosya 5.000 satırı aşmıyor; önceden dört dosya aşıyordu. Oturumlar, küçük bir supervisor altında izole worker süreçlerinde çalışıyor ve istemcilerin yeniden başlatma sonrası yeniden bağlanabilmesi için diske kalıcı hale getiriliyor. Transport, süreç kontrolü ve dosya kilitleme gibi platforma özgü işler artık trait'lerin arkasında; Windows desteğinin daemon'ı yeniden kablolamak yerine arayüzleri uygulamaktan ibaret hale gelmesinin nedeni de bu. Model ve plugin katalogları çalışma zamanında çekiliyor; böylece yeni modeller bir Prime Agent sürümü gerektirmeden yayınlanabiliyor. Prime Intellect, sonucun çoğu kodlama agent harness'inden daha hızlı çalıştığını ve daha az kaynak kullandığını iddia ediyor; ancak bunlar bağımsız testler değil, satıcının kendi benchmark'ları.

Neden önemli

Bu, insanların büyük ölçüde doğrulama aparatını tasarlamayle sınırlı kaldığı, yüz binlerce geliştiricinin halihazırda güvendiği üretim aracını bir yapay zeka sisteminin otonom olarak yeniden yazdığına dair bildirilen daha büyük örneklerden biri. Sergilenen iş akışı — nesnel eşdeğerlik kontrolleri, ayrı bir modelle çelişkili inceleme ve üretimin değerlendirmeden ayrı tutulması — yüksek riskli kod değişikliklerini agent'lara devreden herkes için yeniden kullanılabilir bir şablon. Mevcut kullanıcılar için pratik kazanımlar performans, çökme izolasyonu ve Windows desteği. Uyarı ise Prime Intellect'in kendisinin de kabul ettiği şey: eşdeğerlik kontrolleri yalnızca çalıştırdıkları davranışı doğrular ve kalan boşluklar ancak insanlar aracı gündelik olarak gerçekten kullandığında ortaya çıktı.