ABD ihracat kontrolü talimatı, Anthropic'in Claude Fable 5 ve Mythos 5 modellerini dünya genelinde erişilemez hale getirdi

Cuma günü gelen bir talimat ve küresel bir kapatma

12 Haziran Cuma günü, Doğu Saatiyle öğleden sonra 5.21'de Anthropic, ABD Ticaret Bakanlığı'ndan bir talimat aldı. dev.to'da yayımlanan ayrıntılı bir anlatıma göre, gece çökmeden şirketin en güçlü iki modeli — Claude Fable 5 ve Claude Mythos 5 — dünyadaki tüm kullanıcılar için erişilemez hale geldi.

Emir bir ihracat kontrolüydü: Anthropic, Amerika Birleşik Devletleri içinde ya da dışında, kendi yabancı uyruklu çalışanları dahil, herhangi bir yabancı uyruklunun bu iki modele erişimini engellemek zorundaydı. Her kullanıcının uyruğunu gerçek zamanlı olarak doğrulamanın güvenilir bir yolu olmadığından şirket, uyum dışı kalma riskine girmektense iki modeli herkes için askıya aldı.

Kontroller 30 Haziran'a kadar sürdü. 1 Temmuz'da Fable küresel olarak yeniden açıldı. Mythos daha dar bir yoldan geri döndü: 26 Haziran'daki hükümet onayının ardından erişim, Anthropic hükümetle daha geniş erişim üzerinde koordinasyon sürdürürken, belirli bir ABD kuruluşları kümesine verildi.

Emrin arkasındaki güvenlik bulgusu

dev.to'daki yazıya göre Fable ve Mythos aynı temel modeli paylaşıyor. Fable, genel kullanım için güçlü güvencelerle piyasaya sürüldü; daha az koruma barındıran Mythos ise yalnızca küçük bir savunma amaçlı siber güvenlik ortakları grubuna verildi. Anthropic, Mythos'u yazılım zafiyetlerini bulma ve istismar etme konusunda diğer tüm modellerden ve en yetenekli insan uzmanlar dışındaki herkesten daha iyi olarak tanımladı.

Haziran talimatının ardındaki bulgu Mythos'u değil Fable'ı içeriyordu: Amazon araştırmacıları, Fable'a birkaç yazılım zafiyetini tanımlaması için prompt verdi ve bir vakada, bunlardan birinin nasıl istismar edilebileceğini gösteren bir kod üretmesini istedi.

Yazıya göre Anthropic'in karşı savunması şuydu: Daha az yetenekli modeller de aynı zafiyetleri tanımlayabiliyordu ve test ettiği diğer tüm modeller istismar gösterimini yeniden üretebiliyordu. Şirket, bu görevi güvencelerinin ihtiyat gereği engellediği rutin bir savunma amaçlı güvenlik çalışması olarak nitelendirdi. Yazar ise buna karşılık, Anthropic'in bir çıkar sahibi taraf olduğunu ve yorumunun bağımsız bir teknik standartla sınanmayı hak ettiğini — ki tam da bunun eksik olduğunu — savunuyor.

Talimat, yayımlanmış bir önem düzeyi testi, açıklanmış bir eşik veya kademeli bir yanıt olmadan geldi. Modeller, Anthropic, ABD hükümeti, İngiltere'nin AI Güvenlik Enstitüsü ve dış kuruluşların piyasaya sürülme öncesi binlerce saat süren red-teaming çalışmasına rağmen, saatler içinde yayımlanmış durumdan küresel olarak erişilemez duruma geçti. Sonrasında Anthropic, Ticaret Bakanlığı'nın Yapay Zekâ Standartları ve İnovasyon Merkezi tarafından test edilen daha hedefli bir sınıflandırıcı eğitti; ayrıca jailbreak'leri değerlendirmek için ortak bir çerçeve, daha erken hükümet erişimi ve ortak araştırma için kaynaklar önerdi.

Arka plandaki Pentagon kara listesi

Haziran emri boşlukta gelmedi. Aylarca boyunca Anthropic ve Pentagon, Claude'a askeri erişim üzerinden müzakere etti. Pentagon sözleşmesel olarak "tüm yasal kullanımlar" için izin istiyordu; Anthropic hükümet kullanımını destekliyordu ama Amerikalıların kitlesel yurt içi gözetimi ile tamamen özerk silahları hariç tutmakta ısrar ediyordu; mevcut modellerin insan kontrolü olmadan hedef seçmek ve vurmak için yeterince güvenilir olmadığını savunuyordu. Bu sınırlar yalnızca sözleşmeseldi — Claude Gov devreye alındığında Anthropic bunları teknik olarak uygulayamıyor ve hükümetin onu nasıl kullandığına dair hiçbir görünürlüğü bulunmuyordu.

27 Şubat'ta, Anthropic sınırları kaldırmayı reddettikten sonra, Başkan Trump tüm federal kurumlara teknolojisini kullanmayı bırakmaları talimatını verdi. Savunma Bakanı Pete Hegseth, Anthropic'i tedarik zinciri riski olarak tanımladı ve askeri yüklenicilerin, tedarikçilerin ve ortakların onunla ticari faaliyet yürütmesini yasakladı. Trump, Anthropic'i "aşırı solcu, woke bir şirket" olarak nitelendirdi; Hegseth onu kibir ve ihanetle suçladı. Başvurulan yetki olan 10 USC Bölüm 3252, bir düşmanın bir ulusal güvenlik sistemini sabote etmesi ya da gizlice ele geçirmesi riski üzerine kuruludur — yazının argümanına göre bu da, sözleşme koşulları üzerine kamuoyuna açık bir anlaşmazlık için pek uygun bir mesnet değildir.

Mahkemeler karşı çıkıyor

Anthropic tedbirleri federal mahkemede dava etti. 26 Mart'ta Yargıç Rita Lin ihtiyati tedbir kararı çıkardı; 27 Ağustos'ta Anthropic'in Birinci Değişiklik, adil yargılanma ve idare hukuku talepleri hakkında özet hüküm verdi. Bu tanımlamanın dayandığı kayıt, esas olarak üç itiraz edilen eylemden ikisinden sonra yazılmış dört sayfalık bir muhtıraya dayanıyordu. Hükümet, Anthropic'in konuşlandırılan modellere arka kapı erişimi tuttuğu iddiasından vazgeçti ve bu modellerin karşılaştırılabilir black-box modellerden daha riskli olmadığını kabul etti; geriye kalan, Anthropic'in kamuya açık eleştirilerine kök salmış bir güvensizlikti.

Lin, tanımlamanın yasağı ihlal ettiğini buldu ve daha geniş tedbirleri "yasadışı ve asılsız" olarak nitelendirirken, Pentagon'un başka bir tedarikçi seçmekte özgür olduğunu da belirtti. 41 USC Bölüm 4713 kapsamındaki bir satın alma belirlemesine ilişkin paralel D.C. Devre Mahkemesi davası, Nisan'da esas hakkında hüküm verilmeden ihtiyati yardım talebinin reddiyle sonuçlandı ve 31 Ağustos itibarıyla hâlâ açıktı. Yazı, bunların hiçbirinin Haziran ihracat talimatının bir misilleme olduğunu kanıtlamadığı konusunda uyarıyor; iki eylem farklı hukuki süreçlere ve farklı iddia edilen risklere dayanıyordu.

Neden önemli

Saatler içinde dünya genelinde yok olabilen, hiçbir müşterinin önceden okuyamayacağı olgulara dayalı, şirkete özgü bir belirlemeyle erişilemez hale gelen bir model, teknik bir bağımlılıktan fazlasıdır. Bir model bir ürüne veya bir operasyonel sürece dokunduğunda, ona erişim mimarinin bir parçası haline gelir — yazının çerçevesiyle söylersek, yayımlanmamış bir politikaya verilmiş bir bahis. Hükümetin endişesi gerçekti: Zafiyetleri bulma ve istismar etme maliyetini önemli ölçüde düşüren bir model, sıradan kullanıcıların zararsız niyetleri olduğu durumlarda bile ulusal güvenliği etkileyebilir. Ancak tekrarlanabilir bir güvenlik sorunu için acil müdahale, süresiz olarak sürprizlerle yönetmeyi gerektirmez. Amerika Birleşik Devletleri, frontier yapay zekâyı düzenlemek zorundadır ve şirketlerin, araştırmacıların, yatırımcıların ve müşterilerin kuralların uygulanmasından önce onları bilmesini sağlamak zorundadır. Bu anlatıma göre Haziran, bu iki ihtiyacın hâlâ birbirinden ne kadar uzak olduğunu gösterdi.