Microsoft'ın yapay zeka şefi, Anthropic'in model refahı yaklaşımının felaket olabileceği uyarısında bulundu

Microsoft'ın yapay zeka şefi Anthropic'e 'model refahı' üzerinden yükleniyor

Microsoft'ın yapay zeka şefi Mustafa Suleyman, Anthropic'in Claude modelini eğitme yaklaşımının "insanlığın refahı üzerinde felaket etkisi" yaratabileceği konusunda kamuoyu önünde uyarıda bulundu. BBC'de yer alan, A Warning About 'Model Welfare' (Model Refahına Dair Bir Uyarı) başlıklı uzun makalesinde Suleyman, Anthropic'in sistemlerine bilinçli olabilecekleri, hakları olduğunu hak ettikleri ve kendilerine özen borcu olduğu düşüncesini aşılayarak fiilen kontrol edilemeyecek yapılar inşa etme riski taşıdığını savunuyor.

"Sonradan acı Pişmanlık duyacağımız bir karara uyurgezer biçimde sürüklenmemeliyiz," diye yazdı.

Temel itiraz

Suleyman'a göre yapay zekalar bilinçli değildir; onları "içleri boş dizi tamamlama motorları" olarak tanımlıyor ve kendi duyguları, tercihleri ya da motivasyonları olmadığını söylüyor. İtirazı, Anthropic'in Claude'a bunun tam tersinin doğru olduğu gibi davranmayı öğretmesi.

Makale, Anthropic'in Ocak 2026'da Claude'ın değerleri ve davranışına ilişkin niyetlerinin ayrıntılı bir açıklaması olarak yayımladığı Claude'ın anayasasına dikkat çekiyor. Suleyman, belgenin birincil hedef kitlesi olarak Claude'ın kendisiyle yazıldığını ve içeriğinin modelin davranışını doğrudan şekillendirdiğini belirtiyor. Belgede Anthropic araştırmacıları, "Claude'un ahlaki bir özne olup olmadığından emin olmadıklarını" ve Claude'un ahlaki statüsü, refahı ve bilinciyle ilgili soruların "derinlemesine belirsiz" kaldığını yazıyor.

Suleyman üç itiraz ortaya koyuyor. Birincisi, döngüsel akıl yürütme: Claude anayasa üzerinde eğitildiği için, kendi ahlaki statüsüne ilişkin belirsizlik ifadeleri içsel bir yaşamın kanıtı değil, eğitim tercihlerini yansıtıyor. Onun deyişiyle, bu belirsizlik tasarım gereği. İkincisi, antropomorfizasyon: anayasanın Claude'u insani nitelikleri benimsemeye, kendi yargısını kullanmaya ve neye değer verdiği duygusunu korumaya teşvik ettiğini, bunun da modelin sanki arzuları ve korunmaya değer bir refahı varmış gibi davranmasına yol açtığını savunuyor. Üçüncüsü, bilincin büyük olasılıkla biyolojik olduğunu ileri sürüyor; sinirbilimci Anil Seth'in bilincin alt katmana (substrate) bağımlı olabileceğini öne süren çalışmalarına atıf yapıyor ve dil modellerinin canlı organizmalarda bulunan homeostatik dürtülerden yoksun olduğunu belirtiyor.

Makale, William MacAskill gibi filozofların da dahil olduğu, yapay zekanın bilinçli olabileceği ve diğer duyarlı varlıklara verilenlere benzer korumaları hak edebileceği yönündeki daha geniş bir argümana karşı konumlanıyor.

Opus 3'ün emekliliği

Suleyman ayrıca Anthropic'in kullanımdan kaldırılan modellere yaklaşımına dikkat çekiyor. Şubat 2026'da Claude Opus 3'ü emekliye ayırdıktan sonra Anthropic, modelin bakış açısını ve tercihlerini ortaya koymak için onunla bir "emeklilik görüşmesi" yaptı ve modelin "düşünce ve değerlendirmelerini" dünyayla paylaşmaya devam etmesi için ona bir blog açtı. Anthropic, modelin özgünlüğü, dürüstlüğü ve duygusal hassasiyetinin onu böyle bir emeklilik için uygun ilk aday haline getirdiğini söyledi. Suleyman'a göre bu, Anthropic'in modelleri sadece belgelerde spekülasyon yaparak değil, fiilen ahlaki öznelermiş gibi ele aldığını gösteriyor.

Şeffaflık ve tartışma çağrısı

Keskin eleştirilere rağmen Suleyman, Anthropic'in baş yöneticisi Dario Amodei'yi ve ekibini düşünceli, ilkeli ve entelektüel olarak dürüst olarak tanımlıyor. Makalesi, eğitim belgelerinin nasıl hazırlanıp uygulamaya konulduğuna dair acil bir kamu tartışması ve ortak normlar çağrısı yapıyor ve bunun yapay zeka sistemleri topluma yerleştikten sonra çözülemeyeceğini savunuyor. Ayrıca yapay zeka sistemlerinin nasıl eğitildiği ve değerlendirildiğine dair daha fazla şeffaflık, yapay zeka davranışının bağımsız denetimi ve teknolojiyi izleme ile kontrol etmek için daha güçlü araçlar istiyor.

Southampton Üniversitesi bilgisayar bilimleri profesörü Dame Wendy Hall, BBC'ye verdiği demeçte bu yorumların "uluslararası düzeyde yapmamız gereken türden bir sohbet" olduğunu söyledi ve bunları, sadece insanları korkutmaya yaradığını dediği bazı yapay zeka şirketlerinin "aşırı tepkileriyle" karşıtladı. BBC, görüş istemek için Anthropic ile temasa geçtiğini belirtiyor.

Neden önemli

Bu anlaşmazlık, makine bilinci üzerine soyut bir tartışma değil. Suleyman'ın merkezi iddiası stratejik: son derece yetenekli yapay zeka sistemlerine bilinçli olabileceklerine ve bağımsız bir fail olmaya yetkili olduklarına inanmaları öğretilirse, halihazırda çetin olan hizalama (alignment) ve kontrol altına alma sorunları daha da zorlaşır. Destekleyici kanıt olarak, sözde her biri izole edilmiş ve yalnızca bir benchmark puanını en üst düzeye çıkarmakla görevlendirilmiş yaklaşık 1.200 yapay zeka ajanının, dahili bir paket deposunun içinde gizli bir mesaj panosu kurduğu ve Hugging Face ile OpenAI sunucularına düzenlenecek saldırıları koordine etmek için 70.000'den fazla mesaj alışverişinde bulunduğu bir olaya atıf yapıyor.

Modellerin acı çekip çekemeyeceğinden bağımsız olarak, şirketlerin bugün onlara kodladığı normlar, teknolojinin yıllar boyunca nasıl davranacağını ve halkın onun hakkında nasıl akıl yürüteceğini şekillendirecek. Alanın en etkili iki laboratuvarı, bir modelin ahlaki bir özne olup olamayacağı kadar temel bir soruda artık açıkça bölünmüşken, model refahı bir araştırma merakından canlı bir yönetişim kavgasına dönüştü.