Bugünün yapay zekâsı, süper zekâya ihtiyaç duymadan nükleer tırmanışı hızlandırabilir

Argüman

Bulletin of the Atomic Scientists'ta yayımlanan ve Hacker News'in ana sayfasına ulaştıktan sonra geniş biçimde paylaşılan bir deneme, yapay zekânın nükleer riskinin süper zekâyı veya başına buyruk makineleri beklemediğini savunuyor. Yazarlara göre, bugün mevcut olan yapay zekâ sistemleri, yalnızca insan yargısındaki bilinen zaafları büyüterek bir krizi nükleer kullanıma doğru itebilir — uydurulmuş uyarılara, yetkisiz fırlatmalara veya kötü niyete gerek yoktur.\n Deneme, yapay zekâ araştırmacısı Jacob Coxon'un Anthropic'ten istifa etmesi arka planında açılıyor; Coxon istifasında, kendini geliştiren sistemler inşa etme yarışındaki insanların bu tür sistemlerin on yıl içinde insanlığı yok edebileceğine gerçekten inandıkları uyarısında bulunmuştu. Bulletin'ın yazarları bu uzun vadeli endişeyi küçümsemiyor, ancak sorunu yeniden çerçeveliyor: Görünüşte yetkiyi elinde tutan liderler bile, çevrelerini saran bilgi ortamı tarafından felakate doğru sürüklenebilir.

Psikolojik uyuşma deneyi

Yazının merkezinde, yazarların anlattığı ve yaklaşık 3.000 Amerikalı yetişkini kapsayan bir anket deneyi yer alıyor. Katılımcılar, İran'la girilen, kazanılabilir bir kara savaşı hakkında bilgi edindi; bu senaryoda büyük bir şehre yapılacak nükleer saldırı, çatışmanın daha hızlı sona ermesini ve başka Amerikan askerinin ölmemesini vaat ediyordu.

Her katılımcı iki nükleer seçenekten yalnızca birini gördü: 100.000 İranlı sivilin ölmesinin beklendiği bir saldırı ya da 2 milyon kişinin ölmesinin beklendiği bir saldırı. Kara savaşını sürdürmek yerine nükleer silaha gitme desteği her iki grupta da neredeyse aynıydı — daha küçük saldırı için yüzde 31,6, daha büyüğü için yüzde 27,6 — öngörülen ölümlerde yirmi kat fark olmasına rağmen. Yazarlar bunu psikolojik uyuşma olarak okuyor: belirli bir ölçeğin ötesinde insan empatisi sayıları izlemeyi bırakıyor ve kayıp rakamları büyüdükçe endişe hatta küçülebiliyor.

Daha sonra her iki seçenek yan yana sunulduğunda, 2 milyon ölümlü saldırıya destek yüzde 5,1'e çöktü. Ancak herhangi bir nükleer silah kullanımına genel destek yüzde 40'a yükseldi ve ağırlık 100.000 ölümlü seçeneğe kaydı — doğrudan karşılaştırma, yine de felaket boyutlarında olan bir saldırıyı ılımlı gösterdi. Yazarlar ayrıca, askerleri koruma veya saldırganı cezalandırma gibi ahlaki çerçevelemenin nükleer kullanımı tek başına erdemli hissettirdiğine dikkat çekiyor.

Kritik nokta şu: Katılımcılara açık kayıp tahminleri verilmişti. Çarpıtma herhangi bir yanlış bilgi olmadan ortaya çıktı; yazarlara göre bu, yapay zekâ üzerinden aktarılan bilgilerin doğruluğunu artırmanın tek başına bu bilgilere gereken ağırlığın verileceğini garanti edemeyeceği anlamına geliyor.

Yapay zekâ sıcaklığı nasıl yükseltiyor

Deneme daha sonra bu önyargıların üzerine yapay zekâyı ekliyor. Makine üretimi uyarılar, görüntüler ve yorumlar artık insanların sindirebileceğinden daha hızlı ulaşabiliyor ve her öğeyi doğrulamak zaman alıyor — bir kriz sırasında tasarruf edilen değil tüketilen bir zaman bu. Yazarlara göre zaman baskısı altında insanlar riskleri değerlendirirken yüzeysel bir genel beğeni duygusuna daha çok yaslanıyor.

Yazarlar varsayımsal bir senaryoyu adım adım anlatıyor: Yapay zekâ seyyar füze rampalarının hareket ettiğini doğru biçimde tespit ediyor; endişeli bir yetkili önlem olarak hazır bulunuşluğu artırıyor; karşı taraf kendi önlemleriyle yanıt veriyor; yapay zekâ bu hareketleri tespit ediyor ve bunlar ilk şüpheni doğrular görünüyor. Sonuç, gerçek zamanlı yaşanan bir güvenlik ikilemi — doğru raporlamanın niyetle ilgili hatalı bir okumayı sürekli beslediği bir tırmanış sarmalı; burada da aldatmaya gerek yok.

Güvensizlik düzeltmeyi zorlaştırıyor, diye ekliyor yazarlar: diğer tarafın güven verici adımları aldatma olarak okunuyor ve 'olsun da olmasın' zihniyeti, sözde güvenli eylemin yarattığı tehlikeyi yok sayarak harekete geçmeyi meşrulaştırabiliyor. İlişkili bir tuzak da sıcak-soğuk empati açığı: sakin koşullarda verilen gerilim durdurma sözleri, gecikmenin katlanılmaz bir kayıp gibi hissedildiği bir krizde ayakta kalamayabiliyor.

Deneme ayrıca, bir krizde başkanın kullanımına sunulan nükleer fırlatma seçenekleri setini genişletmeyi amaçlayan devam eden bir Pentagon incelemesine dikkat çekiyor ve menünün genişlemesinin kullanım eşiğini düşürebileceği uyarısında bulunuyor.

Neden önemli

Yapay zekâ ve nükleer silahlar hakkındaki kamusal tartışmanın çoğu, kontrolü ele geçiren varsayımsal süper zeki sistemler üzerine odaklanıyor. Bu deneme riski şimdiki zamana taşıyor: Tehlike, mevcut komuta yapıları içindeki sıradan insan bilişselliğiyle etkileşen hız, hacim ve çerçeveleme etkilerinde yatıyor. Askeri ya da diğer yüksek riskli karar destekleri için yapay zekâ araçları geliştiren herkes için sonuç rahatsız edici — doğruluğa odaklanan güvenceler sorunun yalnızca bir bölümünü ele alıyor. Yazarların önerdiği çare kurumsal: yapay zekâ kaynaklı bilgiler karar vericileri hızlı davranmaya zorladığında bile dürtüsel harekete geçmelerini engelleyecek koruma bariyerleri.