Yapay zekâ araştırmacıları yeni video röportajlarında insanlığın yok olma riskini yazı tura kadar yüksek görüyor

Araştırmacılar derlenen röportajlarda konuşuyor

Çalışmalarını yapay zekâ sistemlerinin yeteneklerini ve motivasyonlarını incelemek olarak tanımlayan kâr amacı gütmeyen kuruluş Palisade Research, frominside.ai adlı sitede yapay zekâ araştırmacılarıyla yapılan bir dizi video röportaj yayımladı. The Verge'e göre bu koleksiyonda OpenAI, Google ve Anthropic'in güncel ve eski çalışanlarıyla yapılmış yaklaşık bir düzine röportaj bulunuyor ve konuşanlardan birkaçı, ileri düzey yapay zekânın insanlığı makul biçimde yok olma sürükleyebileceği konusunda uyarıyor.\n En sert değerlendirme hem OpenAI hem de Google DeepMind'da çalışmış Geoffrey Irving'den geliyor. Röportajında, yapay zekânın insanlığı yok etme ihtimalini "yazı tura kadar" olarak ifade etti.

Risk tahminleri değişiyor ama yüksek seyrediyor

Google DeepMind araştırmacısı Neel Nanda benzer bir noktaya dikkat çekerken daha düşük bir rakam verdi ve yapay zekânın insanlığı yok etme ihtimalinin "en az yüzde 10" olduğunu, bunu da "gülünç derecede yüksek" bir olasılık olarak niteledi.

OpenAI'nin eski araştırmacısı Daniel Kokotajlo sorunu kontrol açısından ele aldı. Süper zekâlı bir sistemin özünde "tanrısal güçte" olacağını savundu; araştırmacılar böyle sistemleri nasıl kontrol edeceğini bilmediği için de onları kimse kontrol edemeyecekti. Durumun, dediği gibi, "kulağa geldiği kadar tehlikeli ve gerçekleşmesine izin verilmemesi gerekiyor."

Motifler ve şüphecilik doğrudan ele alınıyor

Site röportajları tek başına sunmuyor. The Verge'e göre sitede aynı sorulara birden fazla araştırmacının verdiği yanıtlardan oluşan bölümler de yer alıyor; bu sorular arasında uyarıların abartı ya da pazarlama oluşturup oluşturmadığı ve kimsenin bu kadar tehlikeli gördüğü bir teknoloji üzerinde çalışmaya neden devam ettiği de var.

Yanıtlar açıklık açısından farklılık gösteriyor. Nanda, çalışmasının doğrudan varoluşsal riskleri azalttığına inanmasaydı istifa edeceğini söyledi ve bu sistemleri inşa eden şirketlerin tek bir araştırmacının istifa etmesi yüzünden durmayacağını ekledi. Google'dan Mary Phuong kendi çıkarlarına ilişkin şüphe çağrısında bulunarak, insanların söylemlerinden "kesinlikle şüphelenmeleri" gerektiğini çünkü laboratuvarın kendisine ödeme yaptığını belirtti.

Ortak bir plan yok

The Verge, daha önce Nanda ve Irving'in yorumlarını "yapay zekâ güvenliği" (AI safety) topluluğu hakkında daha geniş bir haberde ve bu terimin ne anlama gelmesini ya da konuyla ilgili herkesin ne yapması gerektiğini netleştirmenin ne kadar zor olduğuna dair bir yazıda ele aldığını belirtti. Yeni koleksiyon bu soruyu çözmüyor: The Verge'e göre videolar tek ve tutarlı bir çözüm sunmuyor.

Neden önemli

Bu uyarılar dışarıdaki eleştirmenlerden değil, sınır yapay zekâ sistemlerini inşa eden ve bir kısmı hâlâ büyük laboratuvarlarda çalışan kişilerden geliyor. içeriden erişimi olan araştırmacılar yok olma olasılığını alenen yüzde 10 ile yazı tura arasında bir yerlere koyduğunda, bu, felaket riskinin alan içinde canlı bir endişe olduğunu ve marjinal bir konum olmadığını gösteriyor. Öte yandan, birleşik bir çözümün yokluğunun, laboratuvar çalışanlarının mali çıkarlara sahip olduğunun açıkça kabul edilmesiyle birleşmesi, şirketleri, düzenleyicileri ve kamuoyunu bu uyarıları değerlendirecek ya da üzerine hareket edecek net bir yoldan yoksun bırakıyor. Laboratuvarların kendi araştırmacılarının tahminlerine nasıl tepki vereceği, bu sistemler yayılmaya devam ederken güvenlik politikalarını, yatırım kararlarını ve kamu güvenini şekillendirebilir.