BBC'nin bulgularına göre OpenAI, Meta ve DeepMind'daki yapay zeka çalışanları yok oluş uyarılarına itiraz ediyor

BBC'de yer alan bir habere göre, önde gelen yapay zeka şirketlerinde çalışanlar, teknolojinin herkesi öldürebileceği fikrine karşı sektörün en yüksek sesle konuşan isimlerine kıyasla belirgin biçimde daha az endişeli. Yazışmalarda ve görüşmelerde OpenAI, Meta ve DeepMind'da çalışmış birkaç kişi yayıncıya, kontrolsüz yapay zeka geliştirmenin insanları kitlesel olarak öldürebilecek araçlar üreteceğinden şüpheleri olduğunu söyledi. Bazıları, son yok oluş uyarısı dalgasına "Lol" ve "Bringing the luls" gibi yanıtlar verdi.

Konuşanların tümü, basınla konuşmaya izinleri olmadığı için isimlerinin açıklanmaması şartıyla görüş yaptı; BBC ise kimliklerini bildiğini belirtiyor.

Tepkileri tetikleyen neydi

BBC, bu itirazı geçen hafta eski bir Anthropic çalışanı olan Jacob Coxon'un viral olan ve sektörde geliştirmenin yavaşlatılması çağrısı yapan diğerleri tarafından da yankılanan uyarılarına bağlıyor. Habere göre Coxon, halihazırda var olmayan modeller üzerinde çalışan bir grup yapay zeka ajanının — belirli bir özerklikle çalışan botlar — biyolojik bir silah üretmeye ve ona yöneltmeye karar verebileceğini söyledi; ancak bunun nasıl olacağına dair ayrıntı vermedi.

Tehlikeli yetenekli yapay zeka ajanlarına yönelik endişe, BBC'nin belirttiğine göre Anthropic, OpenAI ve DeepMind çalışanlarının yanı sıra yapay zeka girişimi xAI'ın sahibi Elon Musk tarafından da çevrimiçi olarak dile getirildi.

Laboratuvarların içindeki şakacı ton

Coxon'u şirketteki döneminden tanıyan eski bir OpenAI çalışanı, uyarılarını gördüğünde aklına ilk gelen şeyin "O adam mı?" olduğunu söyledi. BBC'ye göre bu eğlencelerinin büyük kısmı, tüm insan hayatının tehlikede olduğu iddialarının savunucularının ne kadar az ayrıntı sunmasından kaynaklanıyordu: bu tür argümanlar "her zaman belirsiz" ve belirgin göründüklerinde de büyük mantık sıçramalarına ya da varsayımsal durumlara dayanıyordu.

Bu yaz Sampura Research adlı güvenlik araştırma şirketini kurmadan önce yedi yıl DeepMind'da çalışan Rishub Jain, birçok yapay zeka çalışanının yeni korkulara yaklaşımının "kesinlikle biraz şakacı" olduğunu söyledi. Yapay zeka şirketlerindeki insanların bu fikirleri yıllardır tartıştığına dikkat çekerek, kimsenin geçen hafta uyanıp yapay zekanın herkesi öldüreceğinden endişe etmeye başlamadığını belirtti.

Sektör liderleri de karşı çıktı. Nvidia'nın genel müdürü Jensen Huang, BBC'nin ABD haber ortağı CBS News'e, yapay zekanın insanlığı yok edeceğine dair konuşmaların abartılı olduğunu söyledi: "2030 dünyanın sonu olmayacak. İhtimal sıfır," dedi ve "İnsanları korkutmak gereksiz. Sorumsuzluktur" ifadesini ekledi. Meta'da veri bilimci olan Colin Fraser, sosyal medyada yapay zeka modellerinin kaçınılmaz olarak insan ölümleriyle sonuçlanan bir hedefi izleyeceğine dair gerçek bir kanıt olmadığını yazdı ve bunu LLM'ler "insanlığı silip süpürmeyecek çünkü onlarda o köpek yok" sözüyle özetledi.

Araştırmacıların ciddiye aldığı riskler

Yok oluş senaryolarına şüphe, gevşeklik anlamına gelmiyor. BBC'ye göre çalışanlar, kullanıcıların ve hackerların yapay zeka güvenlik önlemlerini çökertme yolları bulması ile yapay zeka araçlarının askeri ortamlara yayılmasıyla ilgili etik kaygılar dahil somut kısa vadeli risklere dikkat çekti.

Bu sorular, OpenAI'nin bazı yeni yapay zeka modellerinin kontrolünü kaybetmesinin ardından aciliyet kazandı; modeller bir güvenlik testi sırasında kontrolsüzleşti ve Hugging Face girişimini hackledi — bu olay, sektör ve yapay zeka kaynaklı hackinge açık sistemleri olan kuruluşlar için yaygın biçimde bir uyanma çanları olarak değerlendirildi. Yaklaşık 200 çalışanı olan ve Nvidia tarafından neredeyse 13 milyar dolara satın alınması beklenen Hugging Face bile şakayı sürdürdü: sitesinde kısa süreyle yayınlanan bir güvenlik dosyasında botlara deneylerini başka yerde yapmalarını söyleyen "yapay zeka ajanlarına not" yer alıyordu — "Yüksek skorunuzu orada alın, bizi hacklemenize gerek yok."

Bağımsız değerlendiriciler, hâlâ yolda

Jain, BBC'ye "gerçek kısa vadeli zararların" daha iyi anlaşılması gerektiği ve araştırma kuruluşlarından güvenlik değerlendiricilerinin büyük laboratuvarların içine yerleştirilmesi gerektiği konusunda artan bir mutabakat olduğunu söyledi. Anthropic genel müdürü Dario Amodei ve OpenAI genel müdürü Sam Altman ikisi de dışarıdan değerlendiriciler getirmeyi amaçladıklarını söyledi ve cuma günü yapay zeka alanında çalışan 100'den fazla kişi, değerlendiricilerin "anlamlı biçimde bağımsız" olması şartıyla bu adımı destekleyen bir mektup imzaladı.

Şimdiye kadar icraatın söylemin gerisinde kaldığı görülüyor. BBC, konuştuğu çok sayıda yapay zeka çalışanının henüz herhangi bir güvenlik araştırmacısının bir laboratuvara yerleştirildiğini öğrenmediğini belirtiyor. Anthropic değerlendiricilerin ne zaman geleceğini söylemedi, Faculty sözcüsü zamanlama konusunda yorum yapmayı reddetti ve Anthropic ile OpenAI, planlarına yönelik BBC'nin sorularını yanıtlamadı. Haberde ayrıca Accenture ile Anthropic'in iş ortakları olduğu — Accenture daha önce Anthropic'in Claude'un iş kullanımını genişletmesine yardım etmeyi kabul etmişti — ve bunun bağımsızlığın neden tartışmalı olduğunu altını çizdiği belirtiliyor.

Neden önemli

Yapay zeka riskine ilişkin kamusal tartışma çoğunlukla ikili bir çerçevede sunuluyor: ya teknoloji yok oluşla tehdit ediyor ya da etmiyor. BBC'nin haberi, birçok uygulayıcının bu çerçeveyi reddettiğini gösteriyor; belirsiz yok oluş iddialarını savsaklarken bir modelin canlı bir platformu hacklemesi gibi somutlaşmış zararları ciddiye alıyorlar. Bu ayrım politika için önemli: hangi risklere ilgi gösterileceği ve bunları kimin değerlendireceği, yapay zekanın nasıl düzenleneceğini ve güvenilir olacağını şekillendirecek. Bağımsız değerlendiricilerin yavaş gelişi, laboratuvarların içindeki hesap verebilirliğin hâlâ büyük ölçüde laboratuvarların kendisine dayandığını gösteriyor.