Papa Leo XIV BM'den özerk silahların yasaklanmasını istedi: Yapay zekâ kararlarındaki sorumluluk insanlarda kalmalı

Papa, BM'yi özerk silahlar konusunda harekete geçmeye çağırdı

The Verge'in haberine göre Papa Leo XIV, Cuma günü yaptığı papalık konuşmasında, gelecek ay Cenevre'de yapılacak toplantı öncesinde Birleşmiş Milletler üye devletlerine "ölümcül özerk silahların yasaklanmasına yönelik somut adımlar atmaya" çağırdı. Ayrıca yapay zekâ sistemlerinin "tehlikesiz hale getirilmesi" gerektiğini söyleyerek, insanların "uygulamalarını yönlendirme, değiştirme ve gerektiğinde reddetme sorumluluğuna" sahip olduğunu savundu.

The Verge'in aktardığına göre konuşma, Papa'nın Mayıs ayında yayımladığı ve "yapay zekâ çağında insan kişiğini koruma" konusunu merkezine alan ilk büyük papalık belgesi üzerine kuruluyor. Konuşma, 2024'te özerk silahların yasaklanmasını isteyerek "Hiçbir makine bir insanın hayatına son vermeyi seçmemeli" diyen Papa Francis'in çizgisini sürdürüyor. Papa Leo, papalık adını bilinçli olarak seçtiğini ve bugünkü yapay zekâ ile Papa Leo XIII'ün karşı karşıya kaldığı Sanayi Devrimi arasında bir paralellik kurduğunu belirtti.

Araçlar, kişiler değil

Konuşmanın özü, ahlaki fail olmayla ilgili bir iddia. "Makineler araçtır, kişi değildir" diyen Papa, yapay zekâ sistemlerine haklar veya hukuki kişilik tanınmasına karşı uyardı. İnsan hayatını, özgürlüğü ve güç kullanımını etkileyen kararların ise "her zaman etkili, bilgilendirilmiş ve sorumlu insan gözetimine tabi kalması" gerektiğini savundu.

Konuşmasını, uluslararası kurumlardan "ortak standartlar, bağımsız denetim ve net hesap verebilirlik mekanizmaları" aracılığıyla kamu yararını korumalarını isteyerek bitirdi; böylece yapay zekânın nasıl geliştirildiği ve kullanıldığına dair kararların incelenebileceğini, gerektiğinde itiraz edilebileceğini ve verilmiş herhangi bir zarar için uygun tazminat mekanizmalarıyla desteklenebileceğini söyledi.

Geliştirici okuması

dev.to'da yayımlanan bir yorum yazısı, konuşmayı alıp mühendislik pratiğine çeviriyor. Yazının merkezindeki çıkarım şu: makineler ahlaki failler değil araçlar olduğu için, hesap verebilirlik sistemlere tasarım aşamasında dahil edilmeli, modele devredilmemeli. Yazı, tehdit algılama gibi yüksek riskli dağıtımlar için human-in-the-loop doğrulama, zarar verebilecek herhangi bir özerk sistem için kill switch veya devre dışı bırakma mekanizmaları ve model çıktılarının komut değil öneri olarak ele alınmasını öneriyor.

Yazı ayrıca somut uygulama seçenekleri de öneriyor: zarar verebilecek otomatik eylemlerden önce açık insan onay kapıları, yapay zekâ kaynaklı kararların denetlenebilir ve şeffaf günlük kayıtları ve bir insanın model hatalarını geri alabilmesini sağlayan geri alınabilirlik. Yazıya göre EU AI Act gibi düzenleyici çerçeveler zaten benzer güvenceler talep ediyor; bunları baştan içine inşa etmek, sonradan yaşanacak uyum sorunlarını önlüyor. Bu noktalar yazarın önerileridir, papalık talimatı değil; ancak konuşmanın ısrarla üzerinde durduğu gözetim, itiraz ve tazminat ilkeleriyle örtüşüyorlar.

Neden önemli

Bir papalık konuşması düzenleyici güç değil ahlaki ağırlık taşır; ama bu konuşma, merkezindeki sorular — bir yapay zekâ kararının hesabını kim verecek ve kim geri alabilecek — yasalara ve tedarik kurallarına yazılırken geldi. Gelecek ayki Cenevre toplantısı, ölümcül özerk silahların yasaklanması çağrısına yakın vadeli bir sınav sunuyor; Vatikan'ın çerçevesi ise politika yapıcılara ve mühendislere ortak bir sözlük sunuyor: insan gözetimi, bağımsız inceleme ve zararın tazmini.

Geliştiriciler için "makineler araçtır, kişi değildir" ifadesinin pratik karşılığı mimaridir: sonuç doğuran eylemlerden önce onay kapıları, denetimden sağlam çıkan günlük kayıtları, insan kontrolündeki geçersiz kılma mekanizmaları ve bir modelin bazen yanılacağını varsayan tasarımlar. Konuşmanın bu sistemleri inşa eden herkese sorduğu soru, her yerde uygulanabilecek kadar basit: model başarısız olursa, bir insan bunu yakalayıp zararı geri alabilir mi? Cevap hayırsa, Papa'nın tarif ettiği hesap verebilirlik sistemde hiçbir yerde yok demektir.