Google ve üniversite araştırmacıları, LLM agent'ları için kendi kendini geliştiren Procedural Graph'ları öneriyor

Google araştırmacıları ile Georgia Tech ve Peking Üniversitesi'ndeki iş birlikçilerinin yeni bir makalesi, Procedural Graph'ı tanıtıyor: LLM agent'lara adım adım rehberlik eden ve başarısız ile başarılı çalışmaları arasındaki farkı inceleyerek kendini yeniden yazan açık bir yapı. arXiv'e gönderilen ve Hacker News'in ana sayfasında öne çıkan makale, DAIR Academy tarafından Yuxing Lu, Yicheng Chen, Shanchan Wu ve Sercan Arik'ın Google'da iki üniversiteyle birlikte yaptığı bir çalışma olarak özetleniyor.

Sorun: Prosedürel bilgi örtük kalıyor

Makalenin özetine göre günümüz agent'larının çoğu, bir sonraki eylemi, giderek büyüyen önceki adımlar dökümü üzerinde serbest biçimli üretimle seçiyor. Sistemin ne yapılacak, ne zaman ve hangi sırayla yapılacağına dair bildiği her şey, bir yere yazılmak yerine o bağlam içinde gömülü kalıyor. Sonuçlar, yörüngeler uzadıkça kendini gösteriyor: agent'lar hedeflerinden uzaklaşıyor, araçları yanlış sırada çağırıyor ve işe yaramayan eylemler arasında döngüye giriyor.

Knowledge graph'lar ama ne-yapılacağı için

Makalenin düzenleyici benzetmesi knowledge graph'lardan geliyor. Bir knowledge graph, "nedir" sorularını yanıtlayan varlık-ilişki-varlık üçlüleri olarak olguları kaydeder; bir Procedural Graph ise "ne yapılır" sorularını yanıtlayan (prosedür, ilişki, prosedür) üçlülerini kaydeder. Çerçeve, her karar noktasında agent'ın o anda hangi düğümde olduğunu belirler ve ayrı bir rehberlik modeli, çevreleyen alt grafiği okuyup onu hemen sonraki hamle için duruma özgü tavsiyeye dönüştürür. DAIR Academy'nin özetinin de vurguladığı gibi, bu tavsiye çözücüye yön verir, onu komuta etmez; böylece eylem yapan model, grafiğin kendisi yanlış olduğunda bile sapabilir.

Doğrulama kapısının ardında kendi kendine evrim

Grafik statik değil. Bir LLM rafineri, başarısız yörüngeleri başarılı olanlarla karşılaştırır ve grafiğin yapısına ve düğüm özniteliklerine yönelik düzenlemeler önerir. Bu düzenlemeler yalnızca ayrılmış doğrulama verisi üzerinde sonuçları koruyor ya da iyileştiriyorsa işlenir; reddedilen öneriler silinmek yerine arşivlenir, bu da rafinerinin aynı değişikliğe geri dönmesini engeller. Özete göre, bu döngüyü çıplak bir başlangı iskeletinden çalıştırmak, elle tasarlanmışlarla eşdeğer veya daha iyi grafikler üretiyor; ayrıca bir uzmanın sağladığı hatalı bir ön bilgiyi de sadece uzmanın hatalarını devralmak yerine onarabiliyor.

Bildirilen sonuçlar

Yazarlar, birden çok veri kümesi, görev türü ve ana LLM'de, bellek tabanlı temel çizgilere göre istikrarlı iyileşmeler bildiriyor; kendi kendine evrim, ek manuel mühendislik olmadan daha fazla kazanç sağlıyor. Mevcut her iki kaynak da değerlendirmeyi yalnızca bu ayrıntı düzeyinde anlatıyor — özet materyalde belirli kıyaslamalar, puanlar veya model adları yer almıyor — bu yüzden okuyucular niceliksel tablo için makalenin kendisine başvurmalı.

Neden önemli

Uzun ufuklarda güvenilirlik, günümüz agent demo'ları ile güvenilir üretim sistemleri arasındaki ana engellerden biri. Bu çalışma, prosedürel bilgiyi bir prompt'a veya bellek tamponuna örtük şekilde bırakmak yerine, incelenebilen, hata ayıklanabilen ve düzenlenebilen bir yapıt olarak dışsallaştırıyor. Yön ver ama komuta etme tasarımı ve her düzenlemede doğrulama kapısıyla birleşince, katı elle yazılmış iş akışları ile tamamen kısıtsız agent'lar arasında bir orta yol sunuyor. Döngünün neredeyse sıfırdan yetkin bir grafik büyütebilmesi, agent iskeletlerinin mühendislikle değil yetiştirilerek geliştirilebileceğine işaret ediyor; bu da agent'ları yeni alanlara yönlendirme maliyetini düşürür. Her zamanki uyarılar geçerli: bu, iddiaları kendi değerlendirmesine dayanan tek bir makale ve yaklaşım, doğrulama görevlerinde yörüngeleri puanlamak için güvenilir bir yol varsayıyor.