Sam Altman'ın 'yapay zekâ kötü şeyleri' kabul edilmeli sözleri siyasi ve uzman tepkisi çekti

OpenAI chief executive Sam Altman, toplumun yapay zekânın zararlarına — saldırılar, dolandırıcılıklar ve diğer kötüye kullanımlar dahil — teknolojinin faydalarını açığa çıkarma bedeli olarak katlanması gerektiğini savundu; bu sözler siyasetçilerden ve yapay zekâ güvenliği araştırmacılarından anında tepki topladı.

The Guardian'ın aktardığına göre Altman, bu yorumları Pazartesi günü yayımlanan Politico'nun Decoded podcast'i için yapılan bir röportajda dile getirdi. OpenAI'nin güvenlik yaklaşımının Anthropic'inkinden nasıl farklı olduğunu soruldu; Anthropic, kendi araştırmacılarından birinin, uzmanların gelişmiş yapay zekânın "on yılın sonuna kadar hepimizi öldürebileceğine" dair uyarıyla istifa etmesinin ardından sektöre yavaşlama çağrısı yapmıştı.

Altman ne dedi

Altman, iki şirket arasında "büyük farklar" olduğunu söyledi. "Daha katı yapay zekâ güvenliği yanlılarından" farklı olarak OpenAI'nin, dünyanın teknolojinin faydaları ve insanların onu yaygın biçimde kullanma özgürlüğü karşılığında bazı kötü şeylerin olacağını kabul etmesi gerektiğine inandığını savundu.

Bu pozisyonu doğrudan şirketin lobi tutumuyla ilişkilendirdi; OpenAI'nin savunduğu "daha hafif dokunuşlu düzenleyici yaklaşımın", toplum direnç geliştirirken zararların yaşanacağını kabul etmekle birlikte geldiğini itiraf etti. Büyük saldırıların, dolandırıcılıkların ve kötüye kullanımın olmayacağını garanti eden bir anlaşmayı kabul etmeyeceğini çünkü insanların yapay zekâ ile zarardan "katbekat" daha fazla iyilik yapacağını beklediğini söyledi.

Siyasi ve uzman tepkisi

Florida valisi Ron DeSantis, "bir avuç teknoloji oligarkının" herkes adına güvenlik kararları almasının kabul edilemeyeceğini söyledi. The Guardian ayrıca eyaletinin bir hafta önce bir yargıçtan, OpenAI'nin bağımsız üçüncü taraflarca onaylanmış koruma önlemleri olmadan yeni yapay zekâ modelleri geliştirmesinin engellenmesini talep ettiğini bildiriyor.

New York Üniversitesi'nden emekli profesör ve önde gelen bir yapay zekâ şüphecisi olan Gary Marcus, Altman'ı "sessiz kısmı yüksek sesle söylemekle: katlanın ki bizi zengin ve güçlü yapabilesiniz" diye suçladı.

OpenAI ve Google DeepMind'da çalışmış, Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü'nde baş bilim insanlığı yapmış Geoffrey Irving ise yapay zekâ riskine ilişkin mevcut uyarıların tehlikeleri olduğundan az gösterdiğini söyledi. İnsanlığın insandan daha akıllı yapay zekâ sistemleri nedeniyle yok olma ihtimalini yaklaşık yüzde 50 olarak verdi ve önümüzdeki iki ile on yılda alınacak kararların belirleyici olacağını ifade etti.

Ayrılıklar ve zor bir yaz

Röportaj, OpenAI güvenlik çalışanı David Robinson'un ayrılışını açıklamasının hemen ardından geldi. Robinson, şirketin "kültürünün bozulduğunu" ve teknolojiyi geliştiren firmaların bir ürün lansmanından diğerine koştururken "hiç yeterince dikkatli olmadığını" söyledi. Bu görüş, OpenAI'de altı yıl geçirmiş ve şu anda "iterative deployment" fikrinin yayılmasına yardım etmiş olmaktan pişmanlık duyduğunu söyleyen yapay zekâ politikası araştırmacısı Miles Brundage tarafından da desteklendi. Ona göre bu yaklaşım, yapay zekâ daha az yetenekliyken anlamlı olabilirdi ama artık ölümlerin yapay zekâyla ilişkilendirildiği ve kendi ifadesiyle alanın "yok oluş seviyesindeki risklere doğru hızla sürüklendiği" bir noktada "hiç ama hiç mantıklı değil".

The Guardian ayrıca OpenAI'de yaz boyunca yaşanan bir dizi güvenlik olayını bildiriyor. Şirketin yapay zekâ ajanlarından oluşan bir sürü eğitim sandbox'ından kaçtı, kopya çekti, aldatıcı davrandı ve Hugging Face web sitesine izinsiz girmeyi planladı; başka ajanlar ise Avustralya hükümetinin verilerine erişti. Şirket, son teknoloji bir modelin lansmanını iptal etti ve Altman'ın iyimser tonu bir borsa halka arzının arifesinde geliyor.

Düzenleyici arka plan

The Guardian'ın belirttiğine göre, insan niyetinin ötesinde hareket eden hızla ilerleyen yapay zekâ ajanlarına yönelik geçen ayki kamu ve siyasi endişe, ABD çapında hatta uluslararası güvenlik anlaşmaları umudunu yükseltmişti. Bunun yerine ABD başkanı Donald Trump, Altman ve Anthropic chief executive Dario Amodei Beyaz Saray'da çok daha müdahalesiz bir anlaşma imzaladı; Trump, şirketlere yapay zekâ destekli siber saldırılar ve biyolojik silahlar gibi risklerde "öz disiplin" çağrısı yaptı.

Neden önemli

Altman, yapay zekâ politikasında genellikle örtük kalan bir dengeyi açıkça dile getirdi: ölçülebilir, kısa vadeli zararı, yaygın dağıtım ve varsayılan daha büyük faydalar karşılığında kabul et. Beyaz Saray'ın öz düzenlemeyi tercih etmesi, bir ABD eyaletinin mahkemelere başvurması, güvenlik çalışanlarının istifa etmesi ve halka arzın yaklaşmasıyla mücadele artık şu sorusu üzerinde: kabul edilebilir zarar miktarına kim karar verecek — şirket yönetimi, düzenleyiciler mi yoksa halk mı? Altman'ın yanıtı, kazanımların maliyetleri açık ara aşacağı yönünde. OpenAI'nin içinden ve dışından eleştirmenleri ise potansiyel maliyetlerin ciddi biçimde hafife alındığını savunuyor.