Newsom'un yürütme emri, AI kill switch zorunluluğunu ve yerinde denetimleri Kaliforniya'nın gündemine taşıdı

Kaliforniya Valisi Gavin Newsom, frontier modeller için olası bir "kill switch" zorunluluğu da dahil olmak üzere eyaleti AI denetiminde öncü konuma getirecek bir yürütme emri imzaladı. The Verge'ın haberine göre emir Cuma günü imzalandı ve Kaliforniya'nın, eyalet mevzuatında AI güvenliği önlemlerinin nasıl güçlendirileceğine dair önerileri iki ay içinde sunması gereken bir uzmanlar grubu toplamasını yöneltiyor.

Emrin masaya koyduğu konular

The Verge'ın aktardığına göre Newsom, uzman grubun belirli bir dizi mekanizmayı değerlendirmesini istiyor:

• AI şirketlerinin düzenli denetimler için bağımsız doğrulama gruplarını yerinde görevlendirmesinin zorunlu kılınması
• Şirketlerin şeffaflık raporlarının ve risk değerlendirmelerinin bağımsız denetçilerin standartlarına tabi tutulması
• Düzenli olarak etkinliği doğrulanan bir kill switch oluşturulması
• Şirketlerin "kontrol kaybı olaylarını" kritik güvenlik olayları olarak bildirmesinin zorunlu kılınması; The Verge, Newsom'un kastettiği türden bir örnek olarak OpenAI'nin Hugging Face'e yönelik saldırısına dikkat çekiyor

Emir ayrıca bir eyalet kurumuna, Newsom'un kısa süre önce imzaladığı iki yasayı hızla hayata geçirme talimatı veriyor: Biri bağımsız doğrulayıcıların AI güvenliğini değerlendirmesine ilişkin bir çerçeve oluşturuyor, diğeri ise eyalet düzeyinde bir AI denetçileri kaydı oluşturuyor.

Kaliforniya ilerlerken Washington duruyor

The Verge'ın haberine göre Kongre, eski Anthropic araştırmacısı Jacob Coxon'un AI'ın on yıl içinde "tüm insanları öldürebileceği" ihtimalinin yüzde 10'dan fazla olduğu yönündeki uyarı paylaşımdan sonra bir AI yasa tasarımı tartışmaları dalgası yaşadı. Ancak yayın, yakın zamanda kapsamlı bir federal mevzuat çıkma ihtimalini düşük görüyor: Temsilciler Meclisi Kasım'a kadar tatilde ve yaklaşan ara seçimler Senato'da da büyük bir adım atılmasını benzer şekilde olası kılmıyor.

Başkan Donald Trump, resmi kurallara gerek olmadığını savunarak AI'ın ihtiyaç duyduğu tek "guardrail"ın güçlü bir başkan olduğunu ileri sürüyor. Newsom ise Kaliforniya'nın çalışmalarını bir alternatif olarak sunuyor ve The Verge'ın aktardığına göre Kongre'yi ve Trump'ı "eyaletin çerçevesini incelemeye ve benimsemeye" ya da eyaletin düzenlemesini bir tavan değil bir taban olarak kullanmaya çağırıyor.

Newsom yaptığı açıklamada, federal hükümetin anlamlı herhangi bir AI denetimi veya hesap verebilirlik biçimi yaratmamasının, özellikle AI yöneticilerinin kendilerinin de düzenleme talep ettiği göz önüne alındığında, her Amerikalıyı alarm etmesi gerektiğini söyledi ve eyaletin beklemeden acil bir hızla ilerleyeceğini belirtti.

Sırada özel oturum olabilir

Yürütme emri muhtemelen Kaliforniya'nın bu konudaki son sözü olmayacak. The Verge, Newsom'un Çarşamba günü Politico'ya, olabilecek ek yürütme eylemlerinin yanı sıra eyalet yasama organını AI odaklı bir özel yasama oturumuna çağırmayı düşündüğünü söylediğini not ediyor.

Neden önemli

Uzman grubun önerileri yasalaşırsa, frontier model geliştiricileri — pratikte bu, çoğu Kaliforniya'da merkezlenen büyük AI laboratuvarları anlamına geliyor — yerinde denetimler, bağımsız incelemeye tabi risk değerlendirmeleri, zorunlu kontrol kaybı olay bildirimi ve işlediği kanıtlanmış bir kapatma mekanizması için bağlayıcı yükümlülüklerle karşılaşabilir. Bugün çoğunlukla gönüllü taahhütler olarak var olan uygulamalar, gerçek uyum maliyetleri ve mühendislik sonuçlarıyla birlikte yerine getirilmesi zorunlu yükümlülüklere dönüşebilir.

Bu adım ayrıca eyaletlerin federal hareketsizliğin yarattığı boşluğu nasıl doldurduğunu gösteriyor ve Newsom, federal hükümeti açıkça Kaliforniya'nın çerçevesini ulusal bir taban olarak kabul etmeye davet ediyor. Önerilerin iki ay içinde teslim edilmesi gerekiyor ve özel yasama oturumu masada; somut yasa tasarısı metni hızla gelebilir. Frontier model geliştiren veya kullanan şirketler, herhangi bir şey yasalaşmadan çok önce denetçi erişimi, olay bildirim hatları ve test edilmiş kapatma kontrolleri için planlama yapmaya başlamak isteyebilir.