Anthropic, yalnızca 1 milyar dolar hasar veya 50 kayıp eşiğini aşan yapay zeka güvenliği yasası için lobi yapıyor

Öneri ne yapacak

Anthropic, en güçlü kısıtlaması neredeyse hiç uygulanmayacak bir federal yapay zeka güvenliği yasası için sessizce lobi yapıyor. Tom's Hardware'in, Politico'daki habere dayandırdığı bilgiye göre tasarı yasağı, ABD hükümetinin bir yapay zeka modelinin çıkışını yalnızca o modelin en az 1 milyar dolar hasar riski taşıması ya da 50'den fazla kişiyi öldürmesi veya yaralaması durumunda engellemesine izin verecek.

Bu bilinçli olarak felaket ölçeğinde bir eşik. Toplu kayıplar veya milyar dolarlık zararlar düzeyine ulaşmayan her şey yasanın engelleme mekanizmasının dışında kalacak ve mevcut ve öngörülebilir model dağıtımlarının ezici çoğunluğu, yasının en güçlü hükümünden etkilenmeyecek.

Ticaret Bakanlığı aracılığıyla yaptırım

Politico'nun aktardığı denetim mekanizması şöyle işliyor: Ticaret Bakanlığı'na kayıtlı bağımsız bir üçüncü taraf, yapay zeka laboratuvarını ve modellerini düzenli olarak değerlendirecek. İnceleme altındaki laboratuvar bu değerlendiricilere ödeme yapabilecek, ancak yalnızca ödemenin bağımsızlıklarını etkilememesi şartıyla.

Tom's Hardware bu tasarımın yapısal bir sonucuna dikkat çekiyor: Bu, Ticaret Bakanlığı'nı fiilen bir yapay zeka modelini durdurabilen tek federal kurum hâline getirecek. Diğer düzenleyicilerin elinde hangi yetki olursa olsun, bu çerçeve bir çıkışı durdurma yetkisini federal bürokrasinin tek bir köşesinde yoğunlaştıracak.

Anthropic'in kendi çerçevesi

Tom's Hardware'e göre bir Anthropic sözcüsü Politico'ya, tasarının şirketin Advanced AI Framework'ündeki önerileri yansıttığını söyledi; şirket bu önerileri Haziran'dan beri federal ve eylet yasakoyucularına savunuyor. Sözcü bunları, Kongre'nin harekete geçmesi gereken makul politikalar olarak nitelendirdi.

Dikkat çekici nokta, Anthropic'in burada düzenlemeye direnmemesi — tam tersine, kendi belirlediği eşikler ve yaptırım mimarisiyle belirli bir sürümü aktif olarak desteklemesi.

Neden önemli

Öncelikle rakamlar. Yürürlüğe girmesi hâlinde bu eşikler, ABD hukukuna kabul edilemez yapay zeka riski tanımını toplu kayıp ve milyar dolar ölçeğinde başlayan bir biçimde yazacak. Ciddi ama daha küçük zararlar verebilecek modeller — önyargılı kararlar, dolandırıcılık, mahremiyet ihlalleri, hedefli kötüye kullanım — herhangi bir engelleme yetkisinin bulunduğu çizginin altında kalacak. Tasarı yalnızca felaket riskini hedefliyor, güncel yapay zeka şikâyetlerine damgasını vuran günlük başarısızlıkları değil.

İkincisi, yetkinin yoğunlaşması. Ticaret Bakanlığı'nın bir modeli durdurabilecek tek kurum olması, bir çıkışın durdurulup durdurulamayacağı pratik sorusunun tek bir düzenleyiciye ve onun kayıtlı değerlendiricilerine kalacağı, farklı görevlere ve müdahale iştahlarına sahip kurumlar arasında dağıtılmayacağı anlamına geliyor.

Üçüncüsü, finansman düzenlemesi. Değerlendirdiği laboratuvar tarafından ödenen, bağımsızlığı yalnızca bir kayıtla korunan değerlendiriciler, denetlenenlerin denetçilerini seçip seçmemesi veya onlara ödeme yapıp yapmaması gerektiğine dair finans ve çevre denetimindeki uzun soluklu tartışmaları yansıtıyor. Pek çok şey, Ticaret Bakanlığı'na kaydın bu bağımsızlığı uygulamada nasıl koruyacağına bağlı olacak.

Son olarak emsal durumu var. En büyük yapay zeka laboratuvarlarından biri, daha sonra kendi faaliyet göstereceği güvenlik kurallarının şekillendirilmesine yardımcı oluyor. Model çıkışları açısından pratik etki netlik olacak: Düzenli üçüncü taraf incelemesinden geçen ve zarar eşiklerinin altında kalan bir laboratuvar, çıkışının federal sistemin herhangi bir yerinde hukuken engellenemeyeceğine dair güçlü bir argümana sahip olacak.