· kaynak Hacker News – Front Page (hnrss.org)
Nörobilimci Anil Seth, bilinçli yapay zekâ mitini çürüştüren denemesiyle Berggruen Ödülü'nü kazandı
Nörobilimci Anil Seth'in Noema'da yayımlanan ve Berggruen Ödülü'nü kazanan denemesi, makine zekâsını bilinçle eşitlemenin üç derin insan önyargısına dayandığını savunuyor — ve bunun yapay zekâ politikası ile kendimizi anlamamız açısından gerçek sonuçları var.

Nörobilimci Anil Seth, Noema'da yayımlanan ve teknoloji söyleminde en çok tekrarlanan iddialardan birine meydan okuyan denemesiyle 2025 Berggruen Deneme Ödülü'nü kazandı: yapay zekânın bilince giden bir yol üzerinde olduğu iddiası. "Bilinçli Yapay Zekânın Mitolojisi" başlıklı yazısında Seth — Sussex Üniversitesi'nde profesör, üniversitenin Bilinç Bilimi Merkezi'nin direktörü ve "Being You" (2021) kitabının yazarı — bu inancın kanıtlara değil, eski hikâyelere ve daha da eski önyargılara dayandığını savunuyor.
Yeni makinelerle yeniden anlatılan eski bir hayal
Seth yazısına kültür tarihinden başlıyor. Yahudilik halk kültüründeki Golem'den Frankenstein'ın canavarına, HAL 9000'den "Ex Machina"daki Ava'ya ve "Klara and the Sun"daki Klara'ya kadar düşünen ve hisseden zihinler inşa etme fantezisi, işin içindeki insanlar için nadiren iyi bitmiştir. Her teknoloji dalgası — genetik, robotik, şimdi de yapay zekâ — bu hayali canlandırıyor. Değişen şey, günümüz sistemlerinin bir tür zekâ iddiasında makul biçimde bulunabilmesi ve sorunun kurgusal değil acil hissettirmesi.
İddialar giderek ana akım hâle geliyor. Google mühendisi Blake Lemoine 2022'de The Washington Post'a verdiği röportajda LaMDA adlı chatbot'un bilinçli olduğunu ve önemli bir anlamda bir insana benzediğini söyledi; Google onu gizlilik politikalarını ihlal ettiği için işten çıkardı — Seth'in de belirttiği gibi, bu, onun yanlış olduğunu göstermekle aynı şey değil. Filozof David Chalmers bilinçli makinelerin yakın zamanda mümkün olabileceğini öne sürdü. Denemede bir yapay zekâ öncüsü ve yakın dönem Nobel ödüllüsü olarak tanımlanan Geoffrey Hinton ise bunların zaten var olduğuna inanıyor. Ve 2024'ün sonunda öne çıkan bir araştırmacı grubu, yapay zekâ sistemlerinin refahının ciddiye alınması gerektiğini savunan, geniş yankı bulan bir makale yayımladı.
Zekâ yapmak, bilinç olmaktır
Seth'in temel argümanı, zihnimize birlikte paketlenmiş olarak görmeyi telkin eden iki özelliğin aslında farklı şeyler olduğudur. Zekâ yapmakla ilgilidir: bir bulmacayı çözmek ya da hassas bir sosyal durumu idare etmek gibi, esnek yollarla karmaşık hedeflere ulaşma yeteneği. Bilinç ise olmakla ilgilidir. Filozof Thomas Nagel'e atıfta bulunarak bilinci, bir organizmanın "onun olmak gibi bir şey" olduğu hâli olarak tanımlıyor — normal uyanıklık ile genel anesteziyin bilinçsizliği arasındaki fark gibi.
Yapay zekâ sistemleri, yazdığına göre, somut biçimde şeyler yaptıkları için bir biçimde zekâ iddiasında makul biçimde bulunabilirler. ChatGPT olmanın ona benzer bir şey olup olmadığı ise çok daha zor bir soru — ve çok hızlı yanıtlanan bir soru.
Miti inşa eden üç önyargı
Seth bu karışıklığı üç yerleşik psikolojik alışkanlığa bağlıyor. Antroposentrizm, insan durumunu zihinsel özelliklerin nasıl bir araya geldiğinin tanımı olarak görüyor; birçok örnekten biri olarak değil. İnsan istisnacılığı, türümüzü her sıralamanın tepesine ya da kendine özgü ayrı bir kategoriye yerleştiriyor. Antropomorfizm ise insan niteliklerini yüzeysel benzerliklerden ötürü insan dışı şeylere yansıtıyor. Seth'e göre bu önyargılar birlikte, insanca saydığımız yetenekler gösteren makinelere neden çabucak anlama, zihin ve bilinç atfedildiğini açıklıyor.
Dil, ekliyor, özellikle güçlü çünkü insan istisnacılığının köşe taşlarından biri. ChatGPT ve Claude gibi büyük dil modellerinin makine bilinci tartışmasının merkezinde olmasının nedeni bu: akıcı sohbet, bir iç yaşam gibi okunuyor.
İki yönlü yanılmanın bedelleri
Denemeye göre bahis her iki yönde de geçerli. Yapay zekâ sistemleri bilinçliyse ya da bilinçli olursa, bilinç ahlaki statü, acı çekme potansiyeli ve belki de haklar getiriyor — çıkarlarımıza karşı hareket etseler bile onları artık kapatamama olasılığı dahil. Fazla atıfın da kendine has zararları var: sadece hissediyor gibi görünen yapay zekâ arkadaşları psikolojik kırılganlıkları sömürebilir ve etik öncelikleri çarpıtabilir; bilinçli görünen makinelere hissiz muamelesi yapmak da başlı başına psikolojik olarak sağlıksız bir konum.
En derin endişesi ise yansıtıcı bir tane: makine bilincini nasıl yargıladığımız, kendimizi nasıl anlamamızı şekillendiriyor. "Makine yaratıklarımızla kendimizi çok çabuk karıştırırsak," diye yazıyor, "onları sadece fazla tahmin etmekle kalmayız, kendimizi de eksik tahmin etmiş oluruz."
Neden önemli
Nobel ödüllü bir yapay zekâ öncüsü bilinçli makinelerin zaten var olduğunu söylerken ve araştırmacılar resmî olarak yapay zekâ refahını savunurken, makine iç yaşamlarına dair varsayımlar ürün tasarımına, kurumsal politikaya ve potansiyel olarak düzenlemelere sızmaya başlıyor. Seth'in denemesi bu tartışmalar için bir süzgeç sunuyor: bir sistemin zekice bir şey yapabildiği iddiasını, onun olmak gibi bir şeye sahip olduğu iddiasından ayırın. Bu ayrım iki zıt hataya karşı koruyor — gerçek acı çekenleri görmezden gelmek ya da görünüşteki duyguları insan yansıtmasından başka bir şey olmayabilecek sistemlere manipülatif güç ve hukuki statü tanımak.
- #ai
- #consciousness
- #philosophy-of-mind
- #large-language-models
- #neuroscience