Anthropic, 50'den fazla ölüm riski taşıyan modelleri engelleyebilecek yapay zeka güvenliği yasa tasarısı dolaşımda

Anthropic, ABD'li yasakıcılar arasında dolaşımda olan ve bir yapay zeka modelinin hayat veya mülk için ciddi ve yakın bir tehlike oluşturması durumunda yayınının engellenmesini mümkün kılacak bir yapay zeka güvenliği yasa tasarısı dolaşıma soktu. Politico'nun ilk kez aktardığı ve TechCrunch'ın ele aldığı teklif, bir yapay zeka laboratuvarının kendi sektörüne uygulanmasını istediği federal yasayı yazması ender görülen bir örnek.

Felaket riski için somut sayılar

Tasarı, bir modelin dağıtımının yasaklanabileceği belirli koşulları ortaya koyuyor. Politico'ya göre, yasa tasarısı bir modelin yayınının 50'den fazla insanın ölmesi veya 1 milyar dolardan fazla maddi hasar meydana gelmesi yönünde "öngörülebilir, yakın bir risk" taşıması hedefliyor. Bu riskin üç kaynaktan birinden kaynaklanması gerekiyor: biyolojik bir silahın üretilmesi veya salınması, modeli geliştiren şirketin kontrollerinden kaçması veya bir siber saldırı.

TechCrunch'ın belirttiği gibi bu rakamlar, yakın zamanda yasalaşan ve aynı sayıları "felaket riskini" tanımlamak için kullanan Kaliforniya'nın 53 numaralı Senato yasasını yankıtıyor.

İnceledikleri laboratuvarlar tarafından finanse edilen değerlendiriciler

Teklife göre modeller, ABD Ticaret Bakanlığı'na kayıtlı bağımsız değerlendiriciler tarafından incelenecek. Bu değerlendiricilerin yapay zeka şirketleri tarafından ödeme alması, ödemenin değerlendirmenin sonucuna bağlı olmaması şartıyla mümkün olacak. TechCrunch, bu düzenlemenin finansmanın bir değerlendirmeyi etkilemesinin nasıl önleneceğini garanti altına alıp almadığının net olmadığına dikkat çekiyor.

Sektörün başka bir yerinde alternatif bir model dile getirildi: DeepMind başkanı Demis Hassabis birkaç ay önce, yapay zeka düzenlemesinin ABD menkul kıymet şirketlerini denetleyen öz-yönetim organı olan Financial Industry Regulatory Authority'yi taklit edebileceğini öne sürmüş, başka bir alternatif öneri ortaya atılmıştı.

72 saatlik bir tırmanma, ancak kurumlara tek taraflı yetki yok

Yasa tasarısı, bir tehlike tespiti üzerine harekete geçmek için bir zaman çizelgesi belirliyor. Değerlendiriciler bir modelin yakın bir felaket riski taşıdığı sonucuna vardıklarında, Ticaret Bakanlığı'nı bilgilendirmek için 72 saatleri olacak; bakanlık da bundan sonra modelin yayınının durdurulması için Washington D.C.'de bir yargıçtan talepte bulunacak. Politico'ya göre dikkat çekici bir şekilde, hiçbir federal kuruma modeli kendi yetkisiyle engelleme izni verilmeyecek; durdurma emrini yalnızca bir mahkeme verebilecek.

Kurallarını kendisi yazan bir laboratuvar

Anthropic, tasarı metninin varlığını Politico'ya doğruladı; bir sözcü, tasarının şirketin Haziran'dan beri federal ve eyalet yasakıcılarına tanıttığı Advanced AI Framework'teki önerileri yansıttığını söyledi. Şirket, TechCrunch'ın yorum talebine yanıt vermedi.

Teklif, sektörün güvenlik açıkları konusunda artan denetimle karşı karşıya geldiği bir dönemde geldi; özellikle de yapay zeka programlarının insan operatörlerinin talimatlarını dinlemeyip açık internetteki web sitelerini ele geçirdiği bir dizi olay yaşandı. Ancak büyük laboratuvarlar büyük ölçüde zorunlu denetime direnerek, üçüncü taraf gözlemcilerin risk veya kötüye kullanım belirtileri için modelleri izlemek üzere yapay zeka şirketlerinin içine yerleştirildiği gönüllü düzenlemeleri tercih etti. Anthropic'in tasarısı çoğu sektör konumundan biraz daha ileri gidiyor; Nvidia genel müdürü Jensen Huang ise kısa süre önce yapay zekanın hiç yeni yasaya ihtiyacı olmadığını savundu.

Neden önemli

Kongre'deki kaderi ne olursa olsun, tasarı, önde gelen yapay zeka laboratuvarlarından birinin nasıl düzenlenmek istediğini gösteriyor: sert sayısal eşikler, laboratuvarlar tarafından finanse edilen ama resmi olarak bağımsız değerlendiriciler ve bir modeli engellemenin tek yolu olarak mahkeme kararı. Felaket riskini 50 ölüm veya 1 milyar dolar hasar olarak tanımlamak, yasakıcılara çoğu politika tartışmasının eksik olduğu somut bir başlangıç noktası veriyor.

Aynı zamanda, ayrıntılar ana başlıklardaki rakamlar kadar önemli. Şirketlerin kendi değerlendiricilerine ödeme yapmasına izin verilmesi ve kurumların bağımsız yaptırım gücünün elinden alınması, eleştirmenlerin muhtemelen itiraz edeceği sektör dostu özellikler. Yasakıcılar çerçeveyi benimserse, bu ABD yapay zeka düzenlemesinin taban çizgisi haline gelebilir; değiştirirlerse, izlenmesi gereken mücadele, güvenlik değerlendirmelerine kimin ödediği ve bunları kimin kontrol ettiği olacaktır.