Makale, sinir ağlarının LLM davranışını yönlendirebilecek sembolik yapıyı örtük olarak kodladığını iddia ediyor

Sinir ağları vektörlerinde semboller saklı olabilir

30 Ağustos 2026'da arXiv'e yüklenen ve Tom McCoy tarafından sunulan bir ön baskı, yapay zekânın en eski gerilimlerinden birine eğiliyor: Her şeyi sürekli vektörler olarak temsil eden sinir ağları, neden ayrık ve yapılandırılmış semboller gerektirdiği görünen görevlerde bu kadar başarılı? Makale, 2 Eylül'de Hacker News'in ana sayfasına ulaştıktan sonra daha geniş ilgi görmeye başladı.

Yazarların çıkış noktası olan bu bilmece tanıdık bir bilmecedir. Zekâ, geleneksel olarak mantıksal formüller gibi sembollerin yapılandırılmış kombinasyonları üzerindeki işlemler olarak modellenirdi. Sinir ağları bu iskeleti terk edip, ilk bakışta dilin ve mantığın yapısını yakalamaya elverişsiz görünen vektörlere yöneldi — buna rağmen modern en güçlü yapay zekâ sistemlerinin tamamı sinir ağları üzerine kurulmuş olmasına ve tam da bu alanlarda etkileyici bir performans sergiliyor. Makalenin önerdiği çözüm şöyle: Sinir ağlarının iç temsilleri, tasarımında bunu açıkça öngörülmemiş olsa da sembolik yapıyı örtük olarak gerçekleştiriyor.

Ağın yerine bir denklem koymak

Bu hipotezi test etmek için yazarlar, çok çeşitli sinir ağlarının vektör temsillerinin sembolik yapılarla yakından yaklaştırılabildiğini bildiriyor. Bu adım, sembolik örüntüleri sonradan fark etmekten daha güçlü: Özete göre, ağın temsil üretme sürecinin tamamı, sembolik bir yapıyı somutlaşturan kapalı formda bir denklemle değiştirilebiliyor ve ağın davranışı büyük ölçüde değişmeden kalıyor.

Bulgunun iki çok farklı ölçekte geçerli olduğu bildiriliyor. Hem listeleri işlemek üzere eğitilmiş küçük ölçekli sinir ağlarına hem de sembolik geleneğin merkezindeki dört alanda değerlendirilen büyük dil modellerine (LLM) uygulanıyor: aritmetik, mantık, bilgisayar kodu ve doğal dil.

Semboller aynı zamanda bir direksiyon

Yaklaştırma yalnızca betimleyici değil. Yazarlar, sembolik yedeklerinin, modelin iç temsillerine yapılan hassas müdahalelerle bir LLM'nin davranışını hedefli biçimde değiştirmek için kullanılabileceğini gösteriyor. Bunu, tespit ettikleri yapıların yük taşıdığına dair bir kanıt olarak çerçeveliyorlar: Sembolik yaklaşımı düzenlemek modelin ne yaptığını güvenilir biçimde değiştiriyorsa, davranış bu yapılara bağlıdır ve yapılar tesadüfi bir uyum değildir.

Olası bir cevap, kesinleşmiş bir cevap değil

Makalenin kendi çerçevesi temkinli. Hipotezi kanıtlanmış bir mekanizma değil, olası cevantarlından biri olarak sunuyor ve sembolik ikame sonrasında davranışın orijinale yakın kaldığını ama zorunlu olarak özdeş olmadığını bildiriyor. Bir arXiv ön baskısı olarak çalışma artık olağan topluluk incelemesi ve tekrarlama girişimleriyle karşı karşıya; Hacker News'teki ana sayfa görünümü de bu sürecin çoktan başladığına işaret ediyor.

Neden önemli

Sonuç geçerliliğini korursa, yapay zekâ sistemleriyle çalışan veya onları denetleyen herkes için pratik bir ağırlık taşıyor. Bir ağın iç yapısının kapalı formda sembolik bir tanımı, insanın okuyabileceği, üzerinde akıl yürütebileceği ve test edebileceği bir şeydir — milyarlarca kayan noktalı ağırlık ise öyle değildir; bu da yorumlanabilirlik ve güvenlik incelemelerini çok daha elverişli hale getirirdi. Gösterilen hedefli müdahaleler olası bir hata ayıklama tekniğine de işaret ediyor: model davranışını yeniden eğitmek yerine, tespit edilen yapıları düzenleyerek ayarlamak.

Makale ayrıca on yıllardır süren bir tartışmayı yeni koşullarla yeniden açıyor. Sembolik ve sinirsel yapay zekâ yaklaşımları genellikle rakip olarak sunulur; bu çalışma, sinirsel kampın belki de baştan beri sembolik mekanizmayı, vektör biçiminde ifade ederek uyguladığını öne sürüyor. Böyle bir uzlaşma, araştırmacıların büyük dil modellerinin gerçekte ne olduğu — ve aritmetik, kod ya da mantıkta doğru sonuçlar üretirken ne yaptıkları konusunda akıl yürütme biçimini değiştirirdi.