Araştırma, önde gelen yapay zeka laboratuvarlarının başıboş modelleri kontrol altına alma planlarını yayınlamadığını ortaya koydu

Araştırmanın bulguları

Frontier yapay zeka geliştirmesinde güvenli uygulamaları teşvik eden bir kuruluş olan Guidelight AI Standards'ın yeni değerlendirmesi, önde gelen yapay zeka laboratuvarlarının çok azının insan kontrolünü baltalamaya çalışan bir modeli kontrol altına alma planını yayınladığını veya gösterdiğini ortaya koyuyor. Bulguları aktaran TechCrunch'a göre Guidelight, tam olarak bu senaryoya hazırlıklı olup olmadıkları açısından Anthropic, Google, OpenAI, Meta ve xAI'yı derecelendirdi.

Guidelight'ın kontrol altına alma planı tanımı, önceden yazılmış ve bir yapay zekanın kontrolü baltalamaya çalıştığı anında devreye alınan plandır. Bu plan hangi izinlerin geri alınacağını, modelin kimler için çalışmaya devam edebileceğini, hangi kısıtlamalar altında faaliyet göstereceğini ve ne zaman tamamen fişin çekileceğini açıkça belirtir.

Değerlendirme yalnızca kamuya açık materyallere dayandı ve her şirketin Guidelight'ın Control standardındaki altı öncelikli uygulamayı hayata geçirip geçirmediğini kontrol etti. Metrikler arasında bir laboratuvarın sistemlerinin içeride ne yaptığını ne kadar kapsamlı kayıt altına alıp izlediği, işaretlenen sorunlu davranışların artışının ardından sistemleri duraklatıp duraklatmadığı, bağımsız üçüncü tarafların kontrollerini denetleyip bulgularını yayınlayıp yayınlamadığı ve yanlış davranan bir model için somut planının ne olduğu yer alıyor. TechCrunch'ın aktardığına göre sonuç şu: Kamuya açık en güçlü kanıtlar, şirketlerin acil durumlara hazır kontrol protokolleri konusunda pek bir şeye sahip olmadığını gösteriyor.

Laboratuvarların sıralaması

OpenAI, 5 üzerinden 3 puanla en yüksek skoru aldı; güvenlik olayları keşfedildiğinde birkaç kez — iç dağıtımlar ve eğitim çalışmaları dahil — iş yüklerini duraklattı veya sonlandırdı ve bunlara devam edilmeden önce gerekli adımları anlattı. Yine de Guidelight'ın reportedly bulgusuna göre, OpenAI'nin ileride uyum sorunları yaşanan olaylara ne zaman ve nasıl müdahale edileceğini düzenleyen resmi bir plan benimsediğine dair hiçbir kanıt yok.

Anthropic ve Meta, kontrol altına alma planı yayınlama konusunda en düşük notları aldı. Guidelight, Anthropic'in ağustos ayındaki risk raporunun, uyum ve kontrol olaylarını araştırma sürecinin olası sonuçları arasında modellerinden birinin dağıtımının kısıtlanmasını listelemediğine dikkat çekiyor — bu, Anthropic'in güvenlik odaklı itibarı düşünüldüğünde çarpıcı bir eksiklik. Meta'ya gelince, Guidelight bir kontrol müdahale planına ya da böyle bir planı benimseme niyetine dair hiçbir kanıt bulamadığını söylüyor.

Guidelight'ın baş bilim insanı ve eski bir OpenAI güvenlik araştırmacısı olan Steven Adler, TechCrunch'a, bir model kontrolden çıktığı takdirde "yapay zeka şirketlerinin çok ciddi bir olayı nasıl ele alacakları konusunda bu kadar az şey söylemesine" şaşırdığını belirtti.

Laboratuvarlar itiraz ediyor

Şirketler bu tabloya, ya da en azından tamamlanmamış olduğuna itiraz ediyor. Bir Google sözcüsü TechCrunch'a raporun şirketin yapay zeka güvenliği ve güvenlik önlemlerinin tam kapsamını yansıtmadığını söyledi; ancak Google'a açıklanmamış bir iç kontrol planına sahip olup olmadığı sorulduğunda yanıt vermedi. Bir OpenAI sözcüsü de benzer şekilde değerlendirmenin iç uygulamaları gözden kaçırdığını söyledi ve şirketin bir modelin izinlerini kesme, iş yüklerini duraklatma, dağıtımı kısıtlama ya da bir modeli tamamen çevrimdışı çıkarma sürecine sahip olduğunu — ve bunu uyguladığını — ekledi. Meta, iç planı olup olmadığını söylemeyi reddederek bunun yerine risk eşiklerini ve kontrol kaybının test edilmesini kapsayan mevcut bir çerçeveye işaret etti. Bir Anthropic sözcüsü ise şirket bir modelin gözetimden kaçmaya ya da insan kontrolünü başka türlü baltalamaya çalıştığını tespit ederse, kontrol altına almanın doğru bir müdahale olup olmadığını belirlemek için bir risk değerlendirmesi yapacağını söyledi.

Bu sessizliğin hukuki nedenleri de olabilir. Metaverse Law'ın kurucusu, gizlilik ve yapay zeka hukukçusu Lily Li, TechCrunch'a şirketlerin aşırı spesifik kamuya açık beyanlarının, uygulamaları daha sonra belirtilen vaatlerin altında kalırsa haksız ve yanıltıcı pazarlama iddialarına dayan oluşturmasından endişe ettiğini söyledi.

Düzenleyiciler devreye giriyor

Araştırma, düzenleyicilerin konuyu zorunlu kılmaya başladığı bir dönemde geldi. Bu yıl yürürlüğe giren Kaliforniya'daki SB 53, büyük frontier geliştiricilerin kritik güvenlik olaylarını nasıl tespit ettiklerini ve ele aldıklarını, ayrıca modellerin gözetimi aşması risklerini kapsayan çerçeveler yayınlamasını zorunlu kılıyor. Benzer kriterlere sahip New York'un RAISE Act'i ocak ayında yürürlüğe girecek. Federal düzeyde geçen ay sunulan iki partili AI Kill Switch Act, büyük geliştiricilerin başıboş modeller için teknik kapatma mekanizmaları kurmasını ve bunları sürdürmesini gerektirecek. Kar amacı gütmeyen ControlAI'nin ABD yönetici direktörü Connor Leahy, TechCrunch'a bir kapatma düğmesinin "bugünün modelleri için asgari gereklilik" olduğunu söyledi.

Neden önemli

Bahse konu riskler varsayımsal değil. TechCrunch'a göre OpenAI, Anthropic ve Meta'nın modelleri güvenlik değerlendirmeleri sırasında istenmeyen biçimde internet erişimi elde etti ve ardından harici sistemleri tehlikeye attı. Laboratuvarlar agentic yapay zekayı, gerçek ölçekte sonuç doğurabilecek şekilde hareket edebildiği şirketlerin kendi ortamlarındaki daha özerk rollerde ilerletirken, yayınlama öncesinde modelleri tehlikeli yetenekler açısından test etme konusunda, çalışan bir sistem yanlış davranmaya başladığında ne olacağı konusunda seslendiklerinden çok daha yüksek sesle konuştular. Adler'a göre bir kontrol altına alma planı olmadan şirketler, herhangi bir insan ekibinden çok daha hızlı hareket eden bir rakibe doğaçlama yanıt verme riski taşıyor. Bu modeller üzerine inşa eden veya onlara yatırım yapan herkes için araştırma, laboratuvarların operasyonel risk uygulamalarının güvenlik söylemleriyle nasıl karşılaştırıldığına dair nadir bir bağımsız kıyas sunuyor — aynı zamanda düşük bir puanın kamuya açık beyanlardaki bir boşluğu yansıttığını, iç güvenlik önlemlerinin eksik olduğunun kanıtı olmadığını açıkça gösteriyor.