Google DeepMind çalışanları Pentagon ve İsrail ile yapılan askeri yapay zeka anlaşmaları nedeniyle istifa ediyor

Askeri çalışmalar nedeniyle istifalar

BBC'de çıkan bir habere göre Google DeepMind'de birkaç çalışan, şirketin askeri anlaşmaları nedeniyle istifa etti ya da ayrılma aşamasında. Bu ayrılışlar, Google'ın savunma sanayi çalışmalarına yönelik huzursuzluğun iç şikayetlerden, araştırmacıların ayaklarıyla oy kullanmasına dönüştüğünün sinyalini veriyor.

Londra'da görev yapan araştırma mühendisi Sofia Liguori, şirkette geçirdiği üç yılın ardından bu hafta istifa etti. BBC'ye konuşan Liguori, Google'ın ABD ve İsrail ordularıyla derinleşen çalışmalarının, şirketin beyan ettiği etik değerlerine olan güvenini kaybetmesine yol açtığını ve orada çalışmaktan utandığını söyledi. Dikkat çekici olan, kendisini Google'ı kamuya açık biçimde eleştirmekten men eden istihdam koşullarına rağmen konuşmayı seçmesi; BBC'ye göre bunu, "gerçeklerden bahsetmek eleştirmek değildir" düşüncesiyle yaptı.

Bu ayın başlarında istifa eden yapay zeka araştırmacısı Andreas Kirsch ise konunun özünde daha ileri gitti. Ona göre Google'ın yönetişimi ve denetimi, yapay zekayı askeri veya gizli klasmanlı ortamlarda güvenli ve sorumlu biçimde konuşlandırmaya ya da gelecekte çok daha güçlü sistemleri güvenle geliştirmeye yetecek kadar güçlü değil. Google'ın Pentagon'un modellerini nasıl kullanacağını kontrol etme veya veto hakkı görünmediğini ve kullanımlara ilişkin görünürlüğünün sınırlı olduğunu söyleyen Kirsch, mevcut modellerin muharebe görevleri için yeterince sağlam olmadığını savundu.

Bir Google sözcüsü BBC'ye, şirketin kabul edilebilir kullanım politikalarını ve yapay zeka ilkelerini kapsayan tutarlı bir inceleme süreciyle dünya genelinde kamu sektörü kuruluşlarıyla çalıştığını ve endişeleri dile getirmek için sıkı misilleme yasağı politikalarıyla birlikte iç kanalların bulunduğunu belirtti.

Anlaşmalar neye izin veriyor

Bu yılın başında imzalanan Google-Pentagon anlaşması, şirketin yapay zekasının gizli klasmanlı askeri çalışmalarda kullanılmasına izin veriyor. Anlaşmaya göre modeller "yasal herhangi bir hükümet amacına" hizmet edebiliyor; ancak uygun insan denetimi ve kontrolü olmadan yurt içi toplu gözetim veya hedef seçimi dahil otonom silahlar için kullanılmamalı. BBC'nin haberine göre OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia ve Reflection adlı girişim, ulaştırmadan planlamaya ve muharebe operasyonlarına uzanan kullanımları kapsayan benzer anlaşmalar imzaladı.

Endişelerin önemli bölümü, bu tür sistemlerin pratikte nasıl davranacağına odaklanıyor. Pentagon'un ana istihbarat platformu Maven Smart Systems, personelin vurulacak hedefleri seçmesine ve tanımlamasına yardımcı olmak üzere Palantir tarafından inşa edildi ve birkaç önde gelen yapay zeka şirketinin teknolojisini kullanıyor. Bir zamanlar Project Maven'ı yöneten emekli Korgeneral Jack Shanahan, BBC'ye temel felsefenin olabildiğince hızlı ve geniş biçimde konuşlandırma olduğunu, bunun da titiz test ve değerlendirmenin pahasına olabileceğini söyledi. Pentagon'un karşı argümanı ise hızın belirleyici olduğu: Müsteşar Emil Michael bu yılın başında "yapay zeka çağında zaferi hız tanımlar" demişti.

OpenAI'nin jeopolitik ekibinin eski başkanı Sarah Shaker, BBC'ye yapay zekanın operatörün karar verme süresini sıkıştırdığını ve kısa bir zaman diliminde yüzlerce hedef makine tarafından seçildiğinde çıktıların anlamlı biçimde insan denetiminden geçmesinin neredeyse imkansız hale geldiğini söyledi. Google içinde ve dışındaki eleştirmenler, şirketin yapay zeka ilkelerinde vaat edilen insan denetiminin bu kritik anlarda gerçekten geçerli olup olmadığını sorguluyor.

Google'ın İsrail çalışmaları sürtünmeyi artırıyor. Çalışanlar, İsrail hükümetine ve ordusuna bulut ve yapay zeka altyapısı sağlayan 1,2 milyar dolarlık (960 milyon sterlinlik) ortak Google-Amazon anlaşması olan 2024 Project Nimbus'u eleştirdi; Google o dönemde bu düzenlemenin son derece hassas, gizli klasmanlı veya silahla ilgili iş yüklerine yönelik olmadığını söylemişti. İsrail'in yapay zeka destekli hedefleme yetenekleri de inceleme konusu oldu; Gazze'nin yapay zeka destekli bombardımanını ve yüksek sivil kayıplarını ele alan Naza belgeseli bunlardan biri. Bir İsrail hükümet bakanı filmin iddialarını yalan ve çarpıtma olarak reddetti.

Baskı altındaki iş gücü

Çalışanlar BBC'ye, personelin yapay zeka güvenliği ve savaş hakkında kamuya açık biçimde konuşmaktan korktuğunu çünkü sözleşmelerinin şirketi eleştirmeyi yasakladığını ve insanların misilleme ile kariyer zararından çekindiğini söyledi. Liguori, Google içinde "izlendiğinizi hissediyorsunuz, konuşamıyorsunuz" dedi.

Anonim konuşan mevcut bir DeepMind çalışanı olası bir "nüfus değişimi" tanımladı: Şirketin özgün misyonu için işe girmiş motivasyonlu çalışanlar gidebilir, yerlerine kariyerinin başındaki işe alımlar geçebilir. Başka bir çalışan, değişen etik tutum konusunda güçlü hisler besleyen birçok kişinin çoktan gittiğini; bazılarının karşı koymak için kaldığını, diğerlerinin ise Google büyüklüğünde bir şirketin yol değiştirmeyeceği sonucuna vardığını söyledi.

Neden önemli

İstifalar, etik tartışmasını Google için somut bir yetenek sorununa dönüştürüyor; şirket küçük bir kıdemli yapay zeka araştırmacısı havuzu için acımasızca rekabet ediyor ve şimdi en ilkeli çalışanlarından bazılarını kaybetme riski taşıyor. Anlaşmazlık ayrıca Google'ın kendi yapay zeka ilkelerini stres testine tabi tutuyor; şirket insan denetimi ve uluslararası hukuka uyum vaat ederken anlaşme dili bu denetimin derinliğini sorguya açık bırakıyor. Ve OpenAI, Microsoft, Amazon gibi şirketler de benzer askeri anlaşmalar imzaladığı için DeepMind'deki tepki, yapay zeka sektörüne yayılması muhtemel iş gücü gerilimlerinin erken bir sinyali olabilir.