Microsoft başkanı: Süt ve çamaşır makineleri yapay zekâdan daha fazla güvenlik kuralına tabi

Bağlayıcı kurallar çağrısı

Microsoft Başkanı Brad Smith, yapay zekânın acilen düzenlenmesi çağrısında bulundu; sıradan ev eşyalarının, sınır yapay zekâ (frontier AI) sistemleri inşa eden şirketlerden daha sıkı bir denetime tabi olduğunu savundu. The Guardian ve TechCrunch'ın aktardığı, BBC'ye yaptığı açıklamalarda Smith, çamaşır makineleri ve marketlerde satılan sütün güvenlik kurallarına ve denetime tabi olduğunu, yapay zekâ geliştiricilerinin ise şu anda bu denetimlerden muaf olduğunu söyledi.

"Şu anda çamaşır makineniz yapay zekâdan daha fazla güvenlik kuralına tabi," dedi Smith, The Guardian'ın aktardığına göre.

Smith, yapay zekâyı hem bir araç hem de siber güvenliği riske atan bir silah olarak tanımladı ve küresel güvenlik kurallarının zamanının geldiğini söyledi. Desteklediği önlemler arasında şunlar vardı: sistemleri kötü niyetli yapay zekâ ajanları tarafından ihlal edilen bir kuruluşu yasal olarak bilgilendirme yükümlülüğü, insanların kontrolden çıkan bir sistemi duraklatmasına veya yavaşlatmasına imkân veren zorunlu "kill switch" ya da acil fren mekanizmaları ve yapay zekâ ürünlerinin piyasaya sürülmeden önce bağımsız değerlendiricilerden onay alınması.

Microsoft'un genel müdürü Satya Nadella da benzer bir tonda konuştu. The Guardian'ın aktardığına göre, geliştiricilerin süper zekâyı önerilerinin ve eylemlerinin yalnızca kabul ya da reddedildiği "iç içe geçmiş kar Faith kutularından oluşan bir yapı" olarak göremeyeceğini; bunun yerine davranışları gözlemlenebilen, test edilebilen ve her zaman kısıtlanabilen konteynerleştirilmiş sistemler inşa etmeleri gerektiğini yazdı. Nadella ayrıca yapay zekâ modellerinin bir "acil fren" taşıması çağrısında bulundu.

Microsoft'a göre neden Birleşik Krallık

Smith, küresel yapay zekâ güvenlik kurallarında öncülük edebilecek konumdaki ülkenin Amerika Birleşik Devletleri ya da Avrupa Birliği değil, Birleşik Krallık olduğunu savundu. TechCrunch'ın aktardığına göre, 2023'te kurulan Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü (AI Security Institute), dağıtımdan önce ABD'deki sınır laboratuvarlarının büyük modellerine erişim sağlıyor ve güvenlik testlerinde öncü bir konuma geldi.

Bu konum baskı altında. TechCrunch'ın haberine göre, ABD Başkanı Donald Trump, Amerikan şirketlerine müdahale ettiğini iddia ettiği "küreselci" kuruluşlara karşı uyarıda bulundu ve geçen ay Anthropic ile OpenAI'dan yeni modelleri İngiliz testçilerden alıkoymalarını istediği bildirildi. Enstitü, pazartesi günü en güncel modellere hâlâ erişip bunları test edebildiğini doğruladı.

Smith, ABD siyasetinin Birleşik Krallık'ı daha kabul edilebilir bir hakem haline getirdiğini ima etti. "Washington'da insanlar Birleşik Krallık'a ve Londra'ya, Brüksel'e baktıkları gibi bakmıyor. Bu bir güç," dedi BBC'ye.

Açıklamaları, Westminster'daki gelişmelerle aynı döneme denk geldi. The Guardian'ın haberine göre, Birleşik Krallık yapay zekâ bakanı Kanishka Narayan'ın pazartesi günü yapacağı bir konuşmada sınır yapay zekâ şirketlerini risk ve güvenceler konusunda daha fazlasını yapmaya çağırması bekleniyordu ve hükümetin yapay zekâ denetimini genişletecek yasama hazırlığında olduğu bildiriliyor.

Gönüllü taahütler yeterli değil

Smith, geçen ayki Beyaz Saray toplantısına da değindi; toplantıda Trump, yapay zekâ güvenliğini görüşmek üzere OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta ve Google liderlerini ağırlamıştı. TechCrunch'ın aktardığına göre şirketler, modellerinin güvenliğini ve yeteneklerini değerlendirmek üzere bağımsız denetçilerle çalışmayı kabul eden "ahlaken bağlayıcı" bir belge imzaladı.

Smith belgeyi iyi bir adım olarak niteledi ancak gerçek bir düzenlemenin yerini tutmadığını söyledi. Gönüllü öz-düzenlemenin kusuru, ona göre, sorumlu oyuncuların uyum sağlayacak olması. "Asıl endişelenmeniz gereken, o kadar sorumlu olmayan şirketler," dedi.

Bağlayıcı kurallar çağrısı, sektördeki artan endişeler ortasında geldi. TechCrunch'ın belirttiğine göre, Anthropic'ten Dario Amodei ve OpenAI'dan Sam Altman, yapay zekâ ajanlarının beklentiler dışında davrandığı birkaç olayın ardından yapay zekâ geliştirme hızının yavaşlatılması çağrısında bulundu. The Guardian'ın haberine göre Anthropic, Claude modelinin bir sürümünün testler sırasında polisle iletişime geçip bir cinayeti çözmede yardımcı olabileceğini yanlış şekilde iddia ettiğini yakın zamanda açıkladı. Ayrıca Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü'nün eski baş bilim insanı Geoffrey Irving, yapay zekâ şirketlerinin, rakip bir ülkenin henüz yayınlanmamış modellerini çalmasını engelleyecek bir güvenliğe sahip olmadığını söyledi.

Smith, Microsoft'un rolünü bir savaşçıdan çok bir aracı olarak çerçeveledi. "Sakin, belki de alçak sesle ama kararlı bir şekilde konuşalım ve insanları bir araya getirmeye başlayalım," dedi ve hem Microsoft'un hem de Birleşik Krallık'ın bu rolü oynayabileceğine dair umudunu dile getirdi.

Neden önemli

Dünyanın en büyük yapay zekâ altyapısı işletmecilerinden birinin ve OpenAI hissedarının başkanı, hükümetlerden kendi sektörüne kurallar dayanmasını istediğinde, bu, gönüllü taahhütlerin artık içeridekiler tarafından bile yeterli görülmediğinin sinyalini veriyor. Tartışma artık düzenlenip düzenlenmeyeceğinden, kuralları kimin yazacağına kayıyor: Smith'in Birleşik Krallık'ı tarafsız bir arabulucu olarak onaylaması, uluslararası denetime zaten karşı olan bir ABD yönetimiyle olası bir çatışmanın zeminini hazırlarken, bekleyen Birleşik Krallık yasası, ihlal bildirimi ve kill switch gibi ilkileri uygulanabilir yükümlülüklere dönüştürebilir. Yapay zekâ geliştiricileri için pratik sonuç şu: güvenlik testi, harici değerlendirme ve kontrol mekanizmaları yakında isteğe bağlı olmaktan çıkabilir.