Anthropic, Claude'tan toplanan verileri yüzde 90 ila 99 oranında azaltan yeni savunmalar açıkladı

Anthropic'ın paylaştığı ilk bulgulara göre, yakın zamanda güçlendirilen savunmalar, distillation saldırıları yoluyla Claude'tan toplanan veri miktarını yaklaşık yüzde 90 ila 99 oranında azalttı. Şirketin araştırma sitesinde yayınlanan ve Hacker News ana sayfasına ulaşan yazıda, laboratuvar ile gizli, endüstriyel ölçekte veri çıkarma kampanyaları yürüten aktörler arasındaki giderek tırmanan mücadele anlatılıyor.

Distillation saldırılarının hedefi

Anthropic'a göre distillation saldırısı, bir modelin yeteneklerini başkası tarafından kurulmuş daha ucuz bir kopyaya aktarmak için, çoğunlukla sahte hesap ağları üzerinden yönlendirilen yüksek hacimli sorgular kullanır. En değerli veri Claude'un nihai cevabı değil, akıl yürütme transkriptleridir; yani modelin önceden ürettiği çözüm sürecidir. Çünkü bu materyal, daha küçük bir modele yalnızca daha büyük bir modelin neye ulaştığını değil, nasıl düşündüğünü taklit etmeyi öğretir.

Basit karşı önlemler ve saldırganların bunları aşması

Anthropic'ın ilk önlemi, Claude'un akıl yürütmesini kullanıcılara göstermeden önce özetlemesiydi. Şirketin kendi değerlendirmesinde, Claude Opus 4.8'in tam transkriptleriyle eğitilmiş bir pretrained Claude modeli SWE-bench Verified'da yüzde 80,4 skor alırken, yalnızca özetlenmiş transkriptlerle eğitilen aynı kurulum yüzde 71,8 aldı; bu, toplanan verinin yararlılığındaki ölçülebilir bir düşüş.

Veri çıkaranların yanıtı, pasif toplamadan aktif çıkarmaya geçmek ve Claude'dan gizli akıl yürütmesini birebir yeniden üretmesini istemek oldu. Anthropic'ın Eylül raporu, kaba talimatlardan, modeli her seferinde farklı şekilde kandırmak üzere tasarlanmış yaklaşık 12.000 ayrı istek test eden bir laboratuvara kadar uzanan taktikleri katalogladı. Tespit kuralları bu girişimleri yakalamaya başladığında saldırganlar, sahte kimlikler ve çalınmış ödeme bilgileriyle donatılmış yüz binlerce sahte hesabı kontrol eden proxy ağlarını ölçeklendirdi ve erişimi Claude'un sunulmadığı bölgelerde yeniden sattı. Anthropic'ın Şubat raporunda açıklanan bir ağ, aynı anda 20.000'den fazla hesap çalıştırıyordu.

Üç parçalı yeni savunma

Anthropic, mevcut savunmalarının saldırıları üç ayrı yoldan bozduğunu söylüyor; yayınlanan yazıda ilk ikisi ayrıntılıyla ele alınıyor.

İlk kol, akıl yürütmenin nereye gidebileceğini kontrol ediyor. Claude Fable 5.1 ve Claude Opus 5.5 ile birlikte sunulan preserved thinking adlı özellik, 31 Ağustos 2026 tarihinde veya sonrasında oluşturulan yeni API hesaplarının Claude'un önceki bağlamını düzenlemesini engelleyerek, proxy ağlarının tekrarlı çıkarma girişimlerinde kullandığı bir yolu kapatıyor. Anthropic ayrıca bu modellerin akıl yürütmesinin, daha zayıf anti-distillation korumaları taşıyan önceki modeller tarafından okunmasını engelledi ve Claude Sonnet 5.5 ile akıl yürütme transkriptlerini yalnızca bunları üreten isteğin sahibi kuruluşun erişimine açtı.

İkinci kol, distillation'ı diğer tehlikeli kullanım alanları gibi ele alıyor: Anthropic, çıkarma girişimlerini engellemek ve yamalamak için zararlı siber güvenlik ve biyoloji isteklerine karşı konuşlandırdığı türden korumaları uyguladığını söylüyor.

Anthropic'ın adını andığı vakalar

Yazı, tehdidi iki somut örnekle ele alıyor. Anthropic, Zhipu'nun GLM-5.3'ü geliştirirken önde gelen ABD modellerinin siber yeteneklerini distillation yöntemiyle çıkardığını ve Claude Fable 5'i denediğini, ancak Anthropic'ın siber korumalarının elde edilen saldırıların kalitesini düşürmesini görünce daha eski bir Claude modeline ve başka bir laboratuvarın modeline geçtiğini söylüyor. ABD Center for Advancing Innovation and Standards for Super Intelligence, GLM-5.3'ü bugüne dek yayınlanan en yetkin siber açık-ağırlıklı model olarak değerlendirdi; Anthropic'ın kendi araştırması ise modelin korumalarının kolayca aşılabildiğini ve modelin güvenlik açıklarını uçtan uca geliştirmeye istekli olduğunu buldu.

Anthropic ayrıca, Moonshot'un Kimi modellerine yapılan isteklerin distillation çabaları kapsamında gizlice Claude'a yönlendirildiğini, bunlardan birinin de şirketin Çin Halk Kurtuluş Ordusu'na bağlı olduğuna inandığı, belirli bir kişinin CCTV gözetimini analiz etmek isteyen bir kullanıcıdan geldiğini bildiriyor.

Dengesinin maliyet tarafı

Bu önlemlerin Anthropic'ın kabul ettiği bedelleri var. Şirket, distillation olarak tespit edilen önemli miktarda geliri ve trilyonlarca token değerindeki ücretli trafiği geri çevirdiğini, önemli araştırma ve ürün emeği harcadığını ve bazı meşru kullanıcıların entegrasyonlarını güncellemek zorunda kaldığını söylüyor.

Neden önemli

İki şey bunu tek bir satıcının güvenlik güncellemmesinin ötesine taşıyor. Birincisi, akıl yürütme izleri frontier AI'da en sıkı korunan varlık haline geliyor ve özetleme ile erişim kontrolleri toplanan veriyi yüzde 90 ila 99 oranında azaltabiliyorsa, her model sağlayıcısının artık bu varlığı korumak için bir şablonu var. İkincisi, Anthropic'ın örnekleri, distillation ile üretilen modellerin orantılı korumalar olmadan yetenek devraldığı ve çıkarılan yeteneklerin yabancı askeri, istihbarat ve gözetim sistemlerine katıldığı argümanını destekliyor. Daha geniş ekosistem için açık soru şu: Kilitli bağlam düzenleme ve kuruluşa ayrılmış akıl yürütme gibi katı API kısıtlamaları standart uygulama haline gelecek mi ve meşru geliştiriciler bu korumanın bedeli olarak ne kadar sürtünmeye katlanacak?