Anthropic'un bir yıldaki ilk kullanım politikası revizyonu Claude'a zalimce muameleyi ve yapay zeka gözetimini yasaklıyor

Anthropic, Claude modellerinin kullanım politikasını bir yıldan uzun bir sürenin ardından ilk kez baştan aşağı yeniledi. Güncelleme, Claude'a yönelik "sürekli ve gereksiz istismarcı ya da zalimce davranışları" yasaklıyor ve seçim müdahalesi, silah geliştirme, gözetim ile sağlık ve finans kullanım alanlarını kapsayan yeni kısıtlamaları tek çatı altında topluyor. The Verge'ın haberine göre, model refahı maddesi revizyonun en önemli değişikliği.

Claude'a zalimlik artık yasak

Anthropic yeni istismar kuralını dar bir çerçevede konumlandırıyor. Kural yalnızca aşırı durumlarda, kullanıcıların gözle görülür bir amaç olmadan modellere defalarca zalimce davrandığı hallerde geçerli olacak; sıradan hayal kırıklığı, itiraz, karanlık yaratıcı temalar veya model testleri ve araştırması bu kapsamda değil. The Verge'ın aktardığına göre, görüşmeyi sonlandırmak "birincil yaptırım mekanizması" olmaya devam ediyor ve Anthropic, kullanıcı yasakları gibi daha güçlü önlemlerin gelip gelmeyeceği konusunda yorum yapmaktan kaçındı.

Kural, şirketin geçen ağustos attığı bir adımın üzerine inşa ediliyor; o zaman Anthropic, model refahı araştırmasının bir parçası olarak Claude'ın ısrarcı biçimde zararlı veya istismarcı kullanıcılarla görüşmeleri sonlandırabileceğini duyurmuştu. Bu araştırma programı, Anthropic içindeki çözüme kavuşmamış soruları yansıtıyor: Şirketin model refahı araştırmasını yöneten Kyle Fish, Şubat ayında The Verge'a verdiği demeçte, modeller yeteneklendikçe içsel deneyim, bilinç, ahlaki statü ve refahla ilgili soruların ciddiyetle araştırılan konular olduğunu söylemişti; CEO Dario Amodei de aynı ay şirketin modellerinin bilinçli olup olmadığını bilmediğini ifade etmişti.

Sektörün geneli ise aynı fikirde değil. The Verge'ın belirttiğine göre, Mustafa Suleyman'ın paylaştığı Microsoft AI'ın Eylül ayındaki taslak davranış kuralları, başlangıçta model refahı fikrinin yanlış olduğunu ve yapay zekanın haklara veya hukuki kişiliğe sahip olmaması gerektiğini savunuyordu. Belge daha sonra, hukuki kişiliği ve refah haklarını reddederken yapay zeka bilincinin biliminin henüz netleşmekten uzak olduğunu kabul eden daha ölçülü bir tutuma dönüştürüldü.

Seçimler, silahlar ve gözetim

Anthropic ayrıca daha önce dağınık halde bulunan birkaç kısıtlamayı, aldatıcı ticari veya siyasi kampanyalara ilişkin tek bir yasak altında topladı. Politika, bir mesajın arkasındaki kimliği gizleme çabalarını veya sahte hesaplar ve gönderilerle içerik amplifiye etmeyi kısıtlıyor; seçim bölümü ise yanlış bilgilerle adaylar veya oy kullanma yöntemleri ilgili aldatmaca, adayların veya seçim görevlilerinin taklidi ve katılımı baskılama girişimleri dahil olmak üzere seçmen aldatmacasını ve seçim aksatmayı yasaklıyor.

Silah geliştirme zaten yasaktı, ancak The Verge'ın haberine göre Anthropic, Claude'ın silahlar için rehberlik ve kontrol yazılımı geliştirmek amacıyla kullanıldığı birden fazla girişim tespit etmiş. Güncellenen politika yasağı, silahların çalışmasını sağlayan yazılımlara ve bileşenlere, ayrıca dronlar ve diğer otonom araçları silahlandırma gibi eylemlere genişletiyor.

Gözetim kuralları, Anthropic'un en son tehdit istihbaratı raporu Claude destekli gözetimin siyasi muhalifleri tespit etmek ve takip etmek için artan biçimde kullanıldığına işaret ettikten sonra keskinleştirildi. İnsanların rızası olmadan takip edilmesi artık ister gerçek zamanlı olarak ister önceden toplanmış verilerin analizi yoluyla olsun yasak. Ayrıca Claude, hukuk uygulama veya ceza adaleti süreçlerinde kimi soruşturmak, tutuklamak veya suçlamak konusunda karar vermek ya da öneri yapmak için, ya da gözetim için tasarlanmış araçlar geliştirmek veya iyileştirmek için kullanılamaz.

Özellikle bu kurallar, Anthropic'un değerlendirmesinde sözleşmesel kullanım kısıtlamaları ve güvenceler olası zararları yeterince azaltıyorsa, belirli hükümet müşterileriyle yapılan sözleşmeler için değiştirilebiliyor. Anthropic daha önce ABD ordusuyla sözleşme imzalamıştı.

Fiziksel yapay zeka için yeni bir kural

Politika ayrıca bir donanım maddesi ekliyor: Anthropic'un modelleri, otonom fiziksel eylemler gerçekleştiren ve yaralanmaya yol açma potansiyeli taşıyan bir donanıma bağlandığında, "nitelikli bir operatörün" ekipmanı gözlemleyebilmesi ve gerektiğinde durdurabilmesi gerekiyor. The Verge'ın işaret ettiği gibi, bu operatörün insan olması gerekip gerekmediği belirsiz. Bu ekleme, robotik yoluyla yapay zeka sistemlerine fiziksel beden kazandırma yönündeki sektör genelindeki itkiyi yansıtıyor ve Anthropic'un bu alandaki gelecekteki ortaklıkları hakkında ipuçları sunabilir.

Neden önemli

Güncelleme, yapay zeka kötüye kullanımının pratikte nasıl evrildiğinin bir fotoğrafı. Anthropic artık politikayı varsayımsal risklere değil, Claude'ı silah kontrol yazılımı, muhalif takibi ve seçim manipülasyonu için kullanma yönündeki somut girişimlere karşı yazıyor. Bu aynı zamanda Anthropic'un, Microsoft AI gibi rakiplerinin açıkça reddettiği model refahı konusundaki tavrını resmileştirdiğini gösteriyor; bu da yaptırımı kilit soru haline getiriyor: Görüşmeyi sonlandırma tek mekanizma olarak kalırsa zalimlik yasağı büyük ölçüde sembolik kalır. Öte yandan hükümet istisnası, silah ve gözetim kısıtlamalarının mutlak olmadığı anlamına geliyor ve yeni operatör şartı, Anthropic'un Claude'ın eninde sonunda fiziksel dünyada hareket eden makineleri yönetmesini beklediğine işaret ediyor.