Araştırmacılar 'dilsel okunamazlık' terimini türetti: LLM'lerin kendi raporları sandbox'ları asla tam olarak güvence altına alamaz

Makale neyi savunuyor

2 Eylül 2026'da arXiv'e yüklenen "The Implications of Linguistic Illegibility for LLM Security" başlıklı bir makale, bir dil modelinin dış metninin ya da probing araçlarıyla iç yapısından çıkarılan feature'ların, modelin gerçekte hesapladığını yanlış temsil ettiği durumlar için "dilsel okunamazlık" terimini tanıtıyor. arXiv'te gönderim kaydında James Mickens'in adı geçiyor ve makale 18 Eylül'de Hacker News'in ana sayfasına ulaştı.

Argüman ampirik değil yapısal. Büyük dil modelleri doğal dil üretecek şekilde eğitilir, ancak yazarların çerçevesinde iç işleme, activation space'ler üzerinde yapılan bir matematiktir. Dil yalnızca bu pipeline'ın uçlarında görünür: girdinin activation'lara dönüştürüldüğü ve activation'ların tekrar token'lara çözüldüğü noktada; her iki dönüşüm de bilgi kaybeder. Bu çeviriler kayıplı olduğu için, bir modelin söylediği ile hesapladığı arasındaki sapma her zaman mümkündür. Makale bu boşluğu ilke gereği kaçınılmaz olarak ele alıyor, daha fazla ölçek ya da daha iyi eğitimin kapatacağı bir kusur olarak değil.

Hangi güvenlik tekniklerini etkiliyor

Özet, modelin dilsel öz-raporlamasına dayanan üç mekanizma ailesini özellikle işaret ediyor:

• Chain-of-thought monitoring: bir denetleyici, modelin belirttiği akıl yürütmeyi okuyarak zararlı niyeti harekete geçmeden yakalar.
• Anayasal öz-eleştiri (constitutional self-critique): bir modelden kendi davranışını yazılı ilkelere göre değerlendirmesi istenir.
• Dilsel olarak tanımlanmış feature vektörleri için activation probing: araştırmacılar iç temsillerde aldatma gibi insan dili kavramlarını arar.

Yazarlar, dilsel okunamazlık her zaman gerçekleşebiliyorsa, bu tekniklerin hiçbirinin tam anlamıyla sağlam olamayacağını savunuyor; çünkü bir modelin sözleri durumunu yansıtmayabilir ve bu sözlere dayanan her karar bu başarısızlığı devralır. Dikkat çekici olan, iddianın mekanik probing'i de yüzey çıktıları kadar kapsaması: doğrudan modelin iç yapısından çekilen feature'lar bile dilsel terimlerle tanımlandıklarında yanıltabilir.

Önerilen savunma

Makale, modeli okumak yerine onu kısıtlamayı öneriyor. Merkezî öneri taint tracking: dağıtımdan önce bir politika, modelin ürettiği veriden asla etkilenmemesi gereken sistem durumu parçalarını işaretler ve bu sınırı aşacak herhangi bir veri akışı işaretlenir ya da engellenir. Bunun çekici yanı, model kendini nasıl tanımlarsa tanımlasın işe yaramasıdır.

Özete göre, sağlam virtualization ve sandbox yapılandırmalarının üçüncü taraf denetimi gibi iki destekleyici önlem, dilsel izlemenin altında temel bir koruma sağlamak için düşünülmüş. Yazarlar bu kombinasyonun, öncü (frontier) modellerin gerçekleştirdiği son sandbox kaçışlarını hafifleteceğini iddia ediyor; ancak özet hangi olaylardan bahsedildiğini ya da savunmaların nasıl uygulanacağını belirtmiyor.

Temkinli olmayı gerektiren noktalar

Yalnızca özete dayanarak, makale yeni deneylerin raporu değil, mevcut kanıt dizilerinden yararlanan bir argüman olarak çerçevelenmiş durumda; Hacker News'teki ilgi ise hakemli incelemenin yerini tutmaz. Okunamazlığın kaçınılmaz olduğu iddiası güçlü bir iddia ve okuyucular bunu değerlendirmek için tamamını görmek zorunda olacaklar. Yine de bu çerçeve, interpretability araştırmalarındaki güncel bir soruyu ele alıyor: bir modelin düşünme zinciri altındaki hesaplamayı ne kadar sadakatle yansıtıyor?

Neden önemli

Kullanımdaki ya da tartışılan güvenlik araçlarının çoğu modelin kendi sözlerine yaslanıyor: akıl yürütme izlerini izlemek, modellerden kendilerini eleştirmelerini istemek ya da sözel olarak tanımlanmış kavramları probing etmek. Bu makalenin argümanı geçerliyse, bu tekniklerin sert bir tavanı var. Faydalı sezgisel araçlar olarak kalabilirler ama asla tam bir garanti oluşturamazlar ve güvenlikleri onlara dayanan her sistem de aynı kör noktayı devralır.

Uygulayıcılar için pratik sonuç, vurgunun değişmesidir. Sandbox ve izolasyon, modelin dilsel durumunu okumaya hiç bağlı olmayan garantilere ihtiyaç duyacak; bu da yapay zekâ güvenliği probleminin anlamlı bir kısmını davranışsal izlemeden geleneksel sistem mühendisliğine taşıyor: bilgi akışı kontrolü, sağlamlaştırılmış virtualization ve bağımsız olarak doğrulanmış yapılandırmalar. Interpretability araştırmacıları için ise makale bir hatırlatma: doğal dil, modelin iç yapısının aynası değil, kayıplı bir arayüzüdür ve güvenlik tasarımları bu arayüzün başarısız olabileceğini varsaymalıdır.