Sınır seviyesindeki bir LLM, sinir ağı ağırlıklarını doğrudan okuyup düzenleyebiliyor, iddiası

Hacker News ana sayfasına çıkan bir araştırma blog yazısı, sınır seviyesindeki (frontier) dil modellerinin artık sinir ağı ağırlıklarını doğrudan okuyabildiğini, onarabildiğini, hatta sıfırdan yazabildiğini savunuyor — gradyan inişi olmadan, eğitim döngüleri olmadan ve bazı durumlarda ortamdan hiçbir geri bildirim almadan. Yazarlar bu yeteneğe Weight-Space Programming adını veriyor ve iddialarını, yazının GPT-6 Astra dediği bir sınır seviyesindeki modelle yürütülen sekiz deneye dayandırıyor.

Ham ağırlıklardan davranışı okumak

İlk deneyde, birbirinin aynısı dört MLP — tanh aktivasyonlu, 500'den 32'ye, 32'den 32'ye ve 32'den 5'e yapıda, her biri 17.253 parametreli — Breakout, Pong, Pac-Man ve Freeway'in ızgara tabanlı sürümleri üzerinde PPO ile 1 milyar adım eğitildi. Dört ağda mimariler, giriş kanalları ve eylem kümeleri aynıydı; yani oyunun kimliği yalnızca ağırlıklarda vardı. Yazıya göre, ham sayılar metin olarak Astra'ya verildiğinde, dört ağ için de doğru oyunu adlandırdı ve Breakout için yüzde 99 güven bildirdi. Yazarlar, bunun yapısal imzaları yakaladığına işaret ediyor: her giriş kanalının ilk katman ağırlıklarının nerede yoğunlaştığı (Breakout durumunda alt sırada bir raket) ve çıkış katmanının hangi eylemleri ayırt ettiği.

Yazı ek okuma testleri de listeliyor: bir diffusion modelinin çizdiği şekli tanımlamak, küçük bir dil modelinin hangi dille eğitildiğini belirlemek ve iki modelden hangisinin yaltaklanmaya (sycophancy) doğru eğitildiğini söylemek.

Tek atımlık onarımlar

Bir kontrol görevinde, eğitilmiş bir politika bir aracı şeridin karşıasına geçirmedi. Yazıya göre Astra, ağın ağırlıklarının yüzde 3.5'ini tek geçişte düzenledi ve başarı oranı yüzde 0'dan yüzde 100'e çıktı.

Qwen sonucu

En çarpıcı iddia Qwen3.5-0.8B ile ilgili. Matematik performansını gradyanlar olmadan iyileştirmesi istendiğinde, Astra'nın Qwen'in kendi model kartında belirttiği döngüsel akıl yürütme davranışının ağırlık düzeyindeki nedenini izlediği, sonra bunun modelin ağırlıklarının yüzde 0.016'sını düzenleyerek düzelttiği, işlemin hiçbir eğitim olmadan bir Python kernel üzerinden yürütüldüğü bildiriliyor. Örnekleme ayarları sabit tutulduğunda, yazı MATH-500 doğruluğunun yüzde 7.9'dan yüzde 48.1'e çıktığını raporluyor. Aynı düzenlemenin modelin IFEval puanını üçe katladığı, yani ek bir değişiklik olmadan talimat takibine genelleştiği söyleniyor.

Ağları sıfırdan yazmak

Üretken tarafta, yazıya göre Astra üç MinAtar oyunu için küçük ağları sıfırdan yazdı — bazı kurulumlarda ortam geri bildirimi hiç olmadan — ve bu elle yazılmış politikalar, PPO ile 100 milyon adım boyunca eğitilen politikaları geride bırakıyor. Yazı ayrıca sıfırdan yazılmış, Go oynayan bir ağdan söz ediyor.

Uyarılar

Bunlar hakemli bir makale değil, bir blog yazısında kendi kendine bildirilen sonuçlar; yazarlar da bunları çok erken bulgular olarak nitelendiriyor. Yazının başlığı olan Sparks of Weight-Space Programming bu temkinliliği bilinçli olarak yansıtıyor. Kanıtlar tek bir sınır seviyesindeki modeli, çoğunlukla küçük ağları ve seçilmiş kıyaslamaları kapsıyor; mevcut metin bağımsız bir doğrulamadan ya da düzenlenen yapıtların yayınlanmasından söz etmiyor. Yüzde 0.016'lık bir ağırlık düzenlemesinden altı katlık bir kıyaslama sıçraması, kimsenin varsayımlarını değiştirmeden önce dışarıdan doğrulama gerektirecek olağanüstü bir iddia.

Neden önemli

Derin öğrenmede optimizasyon şimdiye kadar, basit tümevarımsal önyargıları içeren kompakt sembolik optimize edicilerle — yazı Adam ve Muon'u örnek veriyor — yürütüldü. Dil modelleri ağırlık uzayı üzerinde gerçekten akıl yürütebiliyorsa, model iyileştirme, maliyetli yeniden eğitimden cerrahi, akıl yürütme yönlendirmeli düzenlemelere kayabilir: bir checkpoint içindeki belirli bir kusuru bulup yerinde düzeltmek. Okuma deneyleri, yorumlanabilirlik (interpretability) tarafında paralel bir kazanıma işaret ediyor; ham ağırlıklardan yaltaklanma gibi özellikleri tespit edebilen bir sistem, yeni türden bir denetim aracı olurdu. Ancak bu yetenek iki ucu keskin bir bıçak. Ağırlıkları ölçekli olarak inceleyip yeniden yazabilen bir model, model düzenleme ve müdahalenin nasıl göründüğünü değiştiriyor — ki bu, bu iddiaların doğrulanmasını ve ağırlıklara kimin erişeceğinin dikkatle düşünülmesini akademik bir alıştırmadan öte bir hale getiriyor.