Anthropic, Claude'ı 25 açık kaynak projede kullanarak saldırı yüzeylerini daralttı ve 493 sorun kaydetti

Anthropic, Claude modelinin güvenliğin savunma tarafında da kullanılabileceğini gösteren bir araştırma yayımladı; model, bir kod tabanının hangi parçalarına gerçekten erişilebilir olduğunu haritalıyor ve belirli bir dağıtımın gerektirdiğinden daha fazla açıkta olan kodu işaretliyor. Anthropic'in araştırma sitesinde Chris Rohlf tarafından kaleme alınan yazıya göre Claude, beş milyondan fazla satır koda yayılan 25 açık kaynak projeyi inceledi ve bu türde 493 sorun tespit etti.

Bu çalışma, Anthropic'in daha önceki, sınır modellerinin daha önce bilinmeyen güvenlik açıklarını keşfedip istismar edebileceği bulgularına bilinçli bir karşılık niteliğinde. Yazıya göre istismar yeteneğini göstermek, bu modellerin siber savunmaya katkısının yalnızca başlangıç noktası.

Hata kovalamak yerine erişilebilirliği azaltmak

Merkezi argüman şu: yama yapmak ölçeklenmiyor; kritik bir güvenlik açığını bile kapatmak, kalan kusurlar hakkında hiçbir şey söylemez. Saldırı yüzeyini azaltma bunun tersini yapar. Bilinmeyen güvenlik açıklarını ortadan kaldırmaz, ama onlara erişimi zorlaştırır; bu da ciddiyetlerini düşürür — henüz aktif olarak istismar ediliyor olabilecek hatalar dahil.

Pratikte bu, kodu uygun bir kapının arkasına taşımak anlamına geliyor: kimlik doğrulaması öncesinden sonrasına, sıfır tıklamadan tek tıklamaya, varsayılan olarak açık olmaktan açıkça tercih edilmeye, ya da bir protokolün ilk mesajından oturum durum makinesinin ileriki bir noktasına. Rohlf ayrıca yazılımların zamanla soyutlama katmanları, bağımlılıklar ve özellikler biriktirme eğiliminde olduğunu, bunun da kodun özgün geliştiricilerinin amaçladığından farklı davranmasına yol açtığını; saldırganların ise kodun nasıl tasarlandığından çok pratikte nasıl davrandığını incelediğini belirtiyor.

Kodun aşırı açıkta kalmasının üç yolu

Anthropic'in araştırması üç tekniğe odaklandı. İlki, varsayılan yapılandırma: hiçbir varsayılan işlevin kullanması amaçlanmadığı halde projenin yayımlanan varsayılanlarında erişilebilir olan kodu hedefler. İkincisi, yapılandırma etkileşimi: tek başına makul görünen ama birlikte sorun yaratan seçenek çiftlerini arar; örneğin bir güvenlik denetimini sessizce kapatmak ya da bir özelliğin davranışını tanımsız bırakırken kodunun erişilebilir kalması. Üçüncüsü, erken erişilebilirlik: kimlik doğrulaması gibi bir denetimden önce, kurbandan hiçbir etkileşim olmadan ya da bir protokol durum geçişinden önce çalışan güvenliğe duyarlı veya karmaşık kodu tespit eder.

Claude ne buldu

Yaklaşımı test etmek için Claude önce 25 proje (C, C++, Java, PHP ve Python dillerinde yazılmış) genelinde 17.000'den fazla yapılandırma seçeneğinin envanterini çıkardı. Bunların 3.842'si güvenlikle ilgili denetimleri veya özellikleri yönetiyordu. Projeler, Anthropic'in sonuçları bağlama oturtmak için kullandığı üç kategoriye ayrılıyordu: herhangi bir kullanıcıya hizmet veren veya kimliği belirsiz taraflardan gelen verileri ayrıştırmak için tasarlanmış 10 genel proje, kullanıcı kimlik doğrulaması yapana dek tüm işlevselliği kapalı tutan 11 kapılı proje ve bir operatörün kendi ortamında dağıtılan, kimlik doğrulaması eklemenin kapsam dışı olduğu 4 özel proje.

Kapılı grup en çarpıcı sonuçları verdi. Anthropic'e göre on bir kapılı projenin tamamında istemeden erişilebilir kod vardı. Claude, varsayılan yapılandırmalarda 93 gereksiz kimlik doğrulaması öncesi yüzey, kimlik doğrulamasından önce kod çalıştıran veya durum kaydeden 37 konum ve yöneticinin yapılandırdığı bir kimlik doğrulaması öncesi denetimi sessizce zayıflatan 61 yapılandırma birleşimi tespit etti. Bu sorunların hiçbiri tek başına anında istismar edilebilir değildi, ama birlikte gerekenden çok daha büyük bir saldırı yüzeyi bırakıyorlar.

Yapılandırma birleşimleri en verimli damardı

Tüm proje türlerinde Claude, yazılımın hatasız, uyarısız veya beklenen davranışın belgelenmesi olmadan kabul ettiği 162 güvenliğe duyarlı yapılandırma birleşimi buldu. Bunların 94'ünde birleşim bir güvenlik denetimini tümüyle kapatıyordu. Kalan 68'i iç tutarsızlıklardı: yapılandırma devre dışı dediği halde erişilebilir kalan bir dinleyici veya oturum açma yolu, ya da hangisinin kazanacağının yapılandırma dosyasındaki sıraya bağlı olduğu iki çakışan ayar. Anthropic bu birleşimlerin bazılarının alışılmadık olabileceğini kabul ediyor, ama bir yöneticinin yazılımı bu şekilde yapılandırılmış halde dağıtmasını engelleyen bir şey olmadığını da not düşüyor.

Bir örüntü, birbiriyle ilgisiz dört projede bağımsız olarak ortaya çıktı. Yönetici, IP adresi yerine ana makine adı veya joker karakter deseni kullanarak bir istemci erişim kuralı yazıyor. Sunucunun bir istemcinin ana makine adını hiç öğrenebilip öğrenemeyeceği, projelerin çoğunun varsayılan olarak kapalı gönderdiği ayrı bir ters DNS seçeneğine bağlı. Aramalar kapalıyken sunucu yalnızca istemcinin IP adresini bilir ve ana makine adına dayalı kuralı bu adresle düz metin olarak karşılaştırmaya kalkar.

Neden önemli

Bu, sınır yapay zekâ modellerinin yazılıma yalnızca saldırmakla kalmayıp ölçekli biçimde savunabildiğinin daha net gösterimlerinden biri; Anthropic sonuçları hem anlamlı hem de uygun maliyetli olarak çerçeveliyor. Yöntem ayrıca geleneksel yamalamanın yerine geçmek değil, onu tamamlıyor: henüz kimsenin bulmadığı hataların etki yarıçapını küçültüyor ki bu, bilinmeyen kusurların kaçınılmaz olduğu geniş çapta dağıtılan açık kaynak altyapılar için önemli. Son olarak, teknikler bakımcıların benzer yapılandırma envanterlerini ve erişilebilirlik denetimlerini, bir tedarikçinin bunu ürün olarak sunmasını beklemeden kendi kod tabanlarına uygulayabileceği kadar ayrıntılı anlatılıyor.