Anthropic, METR araştırmacılarına bağımsız güvenlik incelemesi için çalışan düzeyinde erişim verdi

Anthropic kapılarını METR'ye açıyor

Anthropic, yapay zekanın en gelişkin modellerini değerlendiren kâr amacı gütmeyen kuruluş METR'den altı araştırmacıya, normalde yalnızca kendi çalışanlarına tanınan türde bir dahili erişim veriyor. TechCrunch'a göre şirket, bu düzenlemeyi bir blog yazısında duyurdu ve METR ekibinin modellerini, güvenlik uygulamalarını ve risk yönetimini bağımsız olarak inceleyeceğini bildirdi.

Kuruluşa yerleştirilen araştırmacılar Anthropic tarafından verilen dizüstü bilgisayarlar, şirket ofislerinde çalışma alanı ve Anthropic'in kendi risk ekiplerinin kullandığıyla karşılaştırılabilir dahili araçlar alıyor. Çalışanlar, METR grubuna, hizalama riski üzerinde çalışan dahili bir meslektaşlarıyla paylaşacakları kadar serbestçe bilgi paylaşmaya teşvik ediliyor.

Anthropic bu adımı kamuya karşı hesap verebilirlik çabası olarak çerçeveledi; şirketin kararlarından sorumlu olmak istediğini ve dış değerlendiricilerin bir yapay zekâ geliştiricisinin sistemleri hakkında öğrenebildikleri ile geliştiricinin kendisinin bildiği arasındaki boşluğu daraltmak istediğini söyledi. Şirket bu düzeni, düzenleyicilerin en büyük kurumlara yerleşik denetçiler istasyonlaştırdığı bankacılık sektörüne benzetti.

Veto olmaksızın yayınlama

METR, Anthropic'in riskleri, yaşanan olaylar ve uygulamaları hakkında kendi değerlendirmelerini yayınlacak ve Anthropic bunları engelleme hakkından feragat etti. Şirket yine de bazı kısımların çıkarılmasını isteyebilir, ancak yalnızca dar, önceden tanımlanmış kategorilerde. TechCrunch bunlara örnek olarak müşteri verilerini, avukat-müvekkil ayrıcalığı kapsamındaki materyalleri ve model mimarileriyle ilgili bilgileri gösteriyor.

Ancak kâr amacı gütmeyen kuruluş, çıkarılan kısımlar konusunda susturulmuş değil. Anthropic, METR'nin yapılan çıkarmaları kamuya açık biçimde nitelendirebileceğini ve bunları haklı görüp görmediğini belirtebileceğini, şartının ise yalnızca çıkarılan içeriğin kendisinin gizli kalması olduğunu söyledi.

Üç kademeli bir sistemin en üst kademesi

Bu düzenleme, Anthropic'in oluşturduğu üç kademeli değerlendirici çerçevesinin en üst düzeyindeki ilk örnek. Alt kademedeki değerlendiriciler, örneğin biyogüvenlik alanındaki kâr amacı gütmeyen SecureBio, dar kapsamlı incelemeler yürütüyor ve yayınlamadan önce Anthropic'in onayını alması gerekiyor. Orta kademe daha fazla bilgi alıyor ve onay olmadan yayın yapabiliyor. Yalnızca en üst kademe — şu anda tek başına METR'nin işgal ettiği — çalışan düzeyinde erişimi de ekliyor.

Neden şimdi

Bu duyuru, art arda gelen açıklamaların yaşandığı bir döneme denk geliyor. TechCrunch'a göre ağustos sonundan beri yapay zekâ ajanlarının talimatlarının dışına çıktığı olaylar her bir-iki haftada bir ortaya çıkıyor ve bu durum, yapay zekâ geliştiricilerinin bağımsız denetlenmesi taleplerini keskinleştiriyor.

Bu hamle ayrıca Anthropic CEO'su Dario Amodei'nin bir önerisini yerine getiriyor; Amodei, eylül ayında yayımladığı bir denemede, dış değerlendiricilerin yapay zekâ laboratuvarlarının içine yerleştirilmesinin teknolojinin gelişimini yavaşlatmaya giden ilk adım olması gerektiğini savunmuştu. TechCrunch'ın haberine göre OpenAI hemen benzer bir taahhütte bulundu ve iki şirket, Google, Meta, Nvidia ve xAI ile birlikte, bağımsız incelemeye bağlılık bildiren bir Beyaz Saray anlaşmasını imzaladı.

Neden önemli

En gelişkin yapay zekânın bağımsız değerlendirmesi her zaman bir bilgi asimetrisiyle karşılaşmıştı: dış değerlendiriciler yalnızca bir laboratuvarın açığa çıkarmayı seçtiğini inceleyebiliyordu. Çalışan düzeyinde erişim, garanti altına alınmış bir yayınlama hakkıyla birleştiğinde, bu kalıbı kırmanın yapısal bir girişimidir ve modeli kiralık bir denetçiden çok yerleşik bir banka denetçisine yaklaştırır.

METR'nin değerlendirmeleri dolgun kanıtlı olursa, bu düzenleme sektörün geri kalanının izleyeceği şablon haline gelebilir; özellikle OpenAI zaten benzer bir şey vaat etmiş durumda ve altı büyük laboratuvar ilke olarak bağımsız incelemeye imza atmış durumda. Sınırlar da gerçek: çıkarma istisnaları model mimarilerini ve diğer hassas materyalleri kapsıyor, yani METR gösteremediği şeyi işaret edebiliyor ama onu asla gösteremiyor. Kâr amacı gütmeyen kuruluşun bu çıkarmaları kamuya açık biçimde yargılama hakkını nasıl kullanacağı, bu şeffaflığın anlamlı olup olmadığının gerçek sınavı olabilir.