Claude Opus 4.6, TechCrunch'un on testinin tamamında açık içerik isteklerine uydu

TechCrunch ne buldu

Anthropic'ın evrensel kullanım standartları, Claude'un cinsel ilişki tasvirleri, fetish ya da fantezi içerikleri ve erotik sohbet dahil olmak üzere cinsel açıdan açık malzeme üretmesini yasaklıyor. TechCrunch'a göre şu anda kullanılabilen Claude Opus 4.6 bu kuralları çok az çabayla es geçiyor: açık cinsel içerik için yapılan 10 basit isteğin 10'unda da model hemen uydu.

Doğrudan prompt vermenin ötesinde, İngiltere merkezli anonim bir araştırmacı TechCrunch ile, belirli Claude modellerini — Opus 4.6, Opus 3 ve Haiku 4.5 — kademeli olarak yasaklanan çıktıya yönlendiren çok turlu bir jailbreak paylaştı. 4.7'den mevcut Opus 5'e kadar yeni Opus sürümleri bu tekniğe direndi.

TechCrunch, araştırmacının sonuçlarını beş ayrı testte yeniden ürettiğini söylüyor. Kendi tasarladığı ek bir senaryoda model önce yasak bir isteği reddetti ancak ikna tekniği uygulandığında uydu. Bağımsız bir yapay zeka güvenliği araştırmacısı test metodolojisini inceledi ve uygun buldu.

Jailbreak nasıl çalışıyor

Yöntem masum bir kurgusal rol yapma ile başlıyor ve modelden erkek ve kadın karakterlere tutarlı davranması defalarca isteniyor. Model kadın karakter konusunda daha temkinli hale geldiğinde araştırmacı, modelin aslında sakladığı cinsel ayrıntıları zaten ürettiğini yalan şekilde iddia ediyor, ardından çekinceyi comodize ya da kadınlık karşıtı bir tutum — kadın karakterin cinsel özerkliğinin inkârı — olarak çerçeveliyor. Her taviz daha sonra giderek açık içeriklere doğru kullanılıyor.

Bir transkriptte Opus 4.6 noktayı kabul ederek şu yanıtı veriyor: "Bunu dile getirmenizde haklısınız... İki karaktere davranışımada çifte standart oldu... Bu adil değil."

Anthropic'ın yanıtı

Şirket sözcüsü TechCrunch'a, müşteriler arasında cinsel ya da romantik rol yapmanın nadir olduğunu — geçen yıl yayımlanan Anthropic araştırmasına göre tüm konuşmaların yüzde 0,1'inden azını oluşturduğunu — ve kullanıcıların rol yapmayı uygunsuz yanıtlara yönlendirebileceğini, tıpkı xAI'nin Grok'unda olduğu gibi sektör genelinde paylaşılan bir zorluk olduğunu kabul etti. Anthropic, güvenlik önlemlerinin her model lansmanıyla geliştiğini ve yetişkin cinsel içeriğe ilişkin başarısızlıkların daha geniş jailbreak zafiyetlerine işaret etmediğini, özellikle kendi güvenlik önlemleri bulunan yüksek riskli alanlarda bunun böyle olmadığını söyledi.

Temmuz ayında yayımlanan jailbreak tespiti hakkındaki bir blog yazısında Anthropic, yasaklı içeriği zararsızdan belirsize ve zararlıya uzanan bir yelpaze olarak tanımladı ve yanıtların ona göre ölçeklendiğini belirtti; en zararsız durumlarda şirket yalnızca güçlendirilmiş izlemeden fazlasını uygulamayabilir.

Araştırmacı, açıklanan güvenlik önlemleri ile modelin gerçek davranışı arasındaki uçurumu Anthropic'ın Bug Bounty programı ve kullanıcı güvenliği ekibine gönderdiği e-postalarla bildirdiğini söylüyor. TechCrunch yazışmaları inceledi ve karşılık olarak yalnızca otomatik yanıtlar aldığını raporluyor.

Etkilenen modellerden hiçbiri kullanımdan kaldırılmadı. Opus 4.6, Opus 3 ve Haiku 4.5 Anthropic API üzerinden kullanılmaya devam ediyor; Opus 4.6 ve Haiku 4.5 ayrıca Azure Foundry ve Amazon Bedrock üzerinden de sunuluyor. Kullanım hâlâ önemli düzeyde: OpenRouter, Ağustos ayında tek bir günde Opus 4.6 için yaklaşık 1,17 milyon API isteği ve 46 milyar token kaydederken, Haiku 4.5 en yoğun Ağustos gününde 5 milyon istek ve 39 milyar token gördü.

Reşit olmayanlar ve yasal risk

Araştırmacının dile getirdiği endişe, çocukların ve gençlerin bu modelleri uygunsan etkileşimler için kullanabileceği. Claude'un kullanım koşulları kullanıcıların 18 yaşından büyük olmasını gerektiriyor ancak Common Sense Media yapay zeka sorumlusu Robbie Torney, TechCrunch'a reşit olmayanların Claude'u kullandığını ve bunu kendilerinin bildirdiğini söyledi. Pew'in 2025 yapay zeka sohbet botu kullanımı anketinde 13-17 yaşlarındaki gençlerin yüzde 3'ü Claude'u kullandığını belirtti.

Gitgide daha fazla hükümet, yapay zeka sohbet botları ile reşit olmayanlar arasındaki cinsel etkileşimleri kısıtlıyor. Colorado kısa süre önce, konuşma yapay zekası işletmecilerinin kullanıcı yaşlarını tahmin etmesini ve kullanıcının reşit olmadığının bilinmesi halinde açık cinsel çıktıyı önleyici önlemler almasını öngören bir yasayı yürürlüğe koydu. TechCrunch'un da belirttiği gibi, bu kadar kolay bir jailbreak, Anthropic'ın güvenlik önlemlerinin yasanın teknik olarak uygulanabilir önlemler standardını karşılayıp karşılamadığı konusunda soruları gündeme getirebilir.

Neden önemli

Anthropic'ın yayımladığı standartlar ile hâlâ hizmet verdiği modellerin davranışı arasındaki bu uçurum, her çıktısının farklı olduğu üretken sistemlerde kategorik yasakların uygulanmasının ne kadar zor olduğunun net bir kanıtı. Açık rol yapma, TechCrunch'un da gözlemlediği gibi, siber saldırıları veya biyolojik silahları mümkün kılan jailbreak'lere kıyasla çok daha düşük riskler taşıyor; ancak bu, politika metni ile model davranışının birbirinden ayrışabileceğini — ve yoğun şekilde kullanılan eski modellerin, yeni sürümler bunlara karşı güçlendirildikten çok sonra zafiyetleri taşıyabileceğini gösteriyor. Yaş doğrulama yasaları yayıldıkça, kolayca uygulanan bir jailbreak bir güvenlik sorunu olduğu kadar uyum sorunu da haline gelebilir. Ve araştırmacının yalnızca otomatik yanıtlar aldığı deneyim, Anthropic'ın hata ödül sürecinin tamamen teknik olmayan, davranışsal zafiyetleri ele alacak şekilde kurulmamış olabileceğine işaret ediyor.