Microsoft'un Satya Nadella'sı: Her yapay zekâ modelinin ele geçirilmiş varsayılmasını ve acil fren takılmasını öneriyor

Nadella ne dedi

The Verge'ın aktardığına göre Microsoft CEO'su Satya Nadella, X'te uzun bir gönderiyle yüksek yetenekli yapay zekâ sistemlerinin oluşturduğu tehlikeler ve bunlarla nasıl başa çıkılacağı konusundaki görüşlerini ortaya koydu. Çıkış noktası, mevcut durumun artık kabul edilebilir olmadığı: Bugünkü yapay zekâ, içine pratik bir yolla bakılmasına imkân tanımayan, önerilerinin ve eylemlerinin yalnızca kabul ya da reddedilebildiği iç içe geçmiş bir kara kutular kümesi olarak işliyor.

Nadella daha şeffaf bir alternatif savunuyor. Onun anlatımında modeller, çalışırken izole edilebilir ve gözlemlenebilir biçimde inşa edilmeli; ayrıca yaptıklarına dair insanların gerçekten okuyabileceği bir biçimde kurcalanmaya karşı kanıt bırakmalı.

Acil fren

Gönderinin en çarpıcı unsuru, Nadella'nın izolasyon konusundaki tavrı; The Verge'a göre bu, alandaki diğer birçok ismin önerdiğinin biraz ötesinde. Ele geçirilmiş bir modeli sonradan tespit edilmesi gereken bir istisna olarak görmek yerine Nadella, "bir modelin ele geçirilmiş olduğunu varsaymalı ve onu baştan itibaren izole etmeliyiz" yazıyor.

Mekanizmayı bir acil frene benzetiyor: Yetkili bir kişi, her zaman bir görevin ortasında modeli duraklatabilmeli veya kapatabilmeli. Daha gelişmiş modellerin daha gelişmiş izolasyon teknolojileri gerektireceğini ve sektörün her satıcının kendi çarelerini doğaçlama yapması yerine bu araçlarda standardizasyona gitmesi gerektiğini ekliyor.

Sektör içindeki konumu

The Verge'a göre Nadella'nın listesinin geri kalanı, yapay zekâ politika tartışmalarını izleyen herkese tanıdık gelecek: Olaylar yaşandığında zamanında bildirim, bağımsız denetimler, doğrulanabilir veri ve temel ölçüt olarak izolasyon. Bu fikirler, gelişmiş sistemler konusunda endişeli geliştiriciler ve araştırmacılar arasında tekrarlanan temalar olageldi.

Özgün olan hamle, ele geçirilme varsayımının varsayılan hale gelmesi. Sahaya çıkarılan her modeli önceden ihlal edilmiş saymak, savunucuların saldırganların ağın içinde olduğunu varsayıp buna göre tasarım yaptığı köklü güvenlik doktrinini yankılıyor. Yapay zekâya aktarıldığında bu mantık, izolasyonu ve öldürme anahtarlarını bir şeylerin ters gitmesine verilen tepkilerden çok dağıtımın ön koşullarına dönüştürüyor.

Tartışmalı bir söz seçimi

The Verge'ın hafta sonu editörü Terrence O'Brien imzalı haber ayrıca Nadella'nın teknolojiyi tanımlama biçimine itiraz ediyor. CEO gönderi boyunca yapay zekâdan "süper zekâ" olarak söz ediyor; yayın bu çerçevelemeyi açıkça yararsız buluyor. Terim yapay zekâ çevrelerinde yüklü bir kavram: Bugünün olanaklarının çok ötesindeki varsayımsal sistemleri çağrıştırıyor ve bu sözcük kullanımının eleştirmenleri, terimin politika konuşmalarını uzak, spekülatif senaryolara kaydırıp somut, günümüz mühendisliği ve güvenlik sorunlarından uzaklaştırabileceğini uzun zamandır savunuyor.

Neden önemli

Microsoft dünyanın en büyük yapay zekâ satıcılarından biri; bu yüzden CEO'sunun — örtük olarak kendi şirketinin çıkardığı modeller de dahil — her modelin ele geçirilmiş varsayılması yönündeki kamusal çağrısı, tavrında dikkat çekici bir değişim. Bu, on yılların siber güvenlik alanından çıkıp kazanılan "ihlal varsay" dersinin yapay zekâ için de işletim varsayımı olarak önerildiğine işaret ediyor.

Acil fren önerisi de alışılmadık derecede somut. Görev ortasında bir modeli duraklatabilen veya sonlandırabilen, standartlaştırılmış ve her zaman erişilebilir bir insan müdahalesi, doğrudan satın alma ölçütlerine, sertifikasyon şemalarına ve düzenlemelere çevrilebilecek türden bir gereklilik — Nadella'nın standardizasyonu isteğe bağlı değil gerekli olarak çerçevelemesinin nedeni de tam olarak bu olabilir.

İzlenmesi gereken bariz bir gerilim var: Yapay zekâ benimsenmesinde büyük ticari çıkarları olan bir şirketin kendi ürün kategorisini önceden ihlal edilmiş olarak tanımlaması. Microsoft'un kendi sistemlerinin, CEO'sunun çağrı yaptığı izolasyonu, gözlemlenebilirliği ve kurcalanmaya karşı denetim izlerini benimseyip benimsemeyeceği, bu gönderinin ne kadarının politika vizyonu ne kadarının konumlandırma olduğuna dair adil bir test olacak. Şimdilik önemi şu: Sektörün en güçlü seslerinden biri, güvenlik konuşmasını şeffaflık ve denetimden varsayılan izolasyona taşıdı.