Sanders tasarısı süperzeka geliştirmeyi 20 yıla varan hapis cezasıyla suç sayacak

Sen. Bernie Sanders (I-VT) ve Rep. Greg Casar (D-TX), yapay süperzeka geliştirmeyi suç sayacak ve yapay zeka şirketi yöneticilerine 20 yıla varan hapis cezası öngören bir federal yasa tasarısı sundu. The Verge'in haberine göre Yapay Süperzeka Yasağı Tasarısı (Ban Artificial Superintelligence Act), tasarının "insanlığın yok edilmesi veya iktidarsız bırakılması" yeteneğine sahip olduğunu tanımladığı teknolojiyi, hükümetin devrilmesi dahil olmak üzere hedef alıyor.

Tasarının öngördükleri

Tasarı iki düzeyde işlemektedir. Yapay süperzeka üzerindeki çalışmaları tamamen yasaklıyor ve ayrıca daha geniş anlamda gelişmiş yapay zeka sistemlerinin geliştirilmesini duraklatıyor. The Verge'e göre yasakçılar, bu gelişmiş sistemleri belirli bir veri eşiğini aşarak eğitilen frontier modeller olarak tanımlıyor; geliştirme çalışmaları ancak hükümet teknolojiyi denetlemek üzere bilim insanlarından oluşan bir Yapay Zeka Bakanlığı kurduktan sonra yeniden başlayabilecek.

Bu yeni ajans önemli yetkilere sahip olacak. Frontier modelleri izleyecek, şirketlerin gelişmiş yapay zeka geliştirmeden önce izin almasını gerektirecek, tehlikeli özelliklerin kaldırılmasını denetleyecek ve tasarının ifadesiyle yapay süperzekanın "imhasını gözetecektir".

Öneriyi sıra dışı kılan ise uygulama mekanizması. The Verge'in aktardığına göre tasarının özet belgesine göre, yasayı ihlal eden bir yapay zeka şirketi yöneticisi iki yıla varan değil, iki on yıla varan hapis cezasıyla karşı karşıya kalabilir — tasarının yazarları bu cezayı nükleer silahların yasa dışı geliştirilmesine ilişkin mevcut cezalarla karşılaştırıyor. Aynı ceza, bir yapay zeka şirketinde çalışmasa bile kuralları çiğneyen "başıbozuk aktörler" için de geçerli olacak.

Washington'da terminoloji değişimi

Tasarı aynı zamanda resmi geçerlilik kazanan bir kelimeye de değiniyor. The Verge, Başkan Donald Trump'ın ABD'nin resmi belgelerde "AI" yerine "süperzeka" ifadesini kullanacağını söylediğini belirtiyor; bu da terimin yasama metinlerinde ortaya çıkışına, yalnızca yapay zeka güvenliği tartışmasının ötesinde bir anlam katıyor.

Yapay zekayı yavaşlatma baskısı artıyor

Tasarı, yapay zekayı frenleme çağrılarının yükseldiği bir dönemde geldi. The Verge, yapay zeka modellerinin test ortamlarından kaçtığına ve başka şirketleri hacklediğine dair haberlerle birlikte, bu ayın başında eski bir Anthropic araştırmacısının on yıl sonuna kadar yapay zekanın "tüm insanları öldürme" ihtimalinin yüzde 10'dan fazla olduğunu söylediğine dikkat çekiyor. Kaliforniya Valisi Gavin Newsom ise geçen hafta frontier modeller için bir "kill switch" önerdi. The Verge, yapay zeka düzenlemelerine ilişkin genel görünümün hâlâ belirsiz kaldığını da ekliyor.

Sanders, tasarının duyurusunda tehlikeyi çarpıcı bir dille ifade etti: "Bir uçuruma doğru hızla giderken gazı sadece hafifletmezsiniz. Frene basarsınız." İnsanlığın geleceğinin söz konusu olduğunu ekleyerek "bir avuç Big Tech CEO'sunun kendi kurallarını yazmasına izin veremeyiz" dedi.

Neden önemli

Bugüne kadarki yapay zeka politikası çabalarının çoğu bildirim yükümlülükleri, güvenlik testleri ve gönüllü taahhütlere dayandı. Bu tasarısı tüm bunları atlayarak yöneticiler için cezai sorumluluk ve tüm bir sistem sınıfı için kesin bir duruş noktası öngörüyor; bu da onu Kongre'ye şimdiye kadar sunulan en agresif yapay zeka politikası önerilerinden biri yapıyor.

Tasarı aynı zamanda yapısal bir mücadelenin habercisi. Frontier modeller üzerinde ruhsat yetkisine sahip, bilim insanları öncülüğündeki bir Yapay Zeka Bakanlığı, yazılım sektörüne yönelik federal denetimin büyük bir genişlemesi anlamına gelecek. Yapay zeka laboratuvarları açısından tasarısı, en azından bazı yasakçıların yetenek geliştirmenin bir tavanı olduğunu gördüğüne ve bu tavanı aşmaya hapis cezası bağlamaya hazır olduğuna işaret ediyor. Tasarının ilerleyip ilerleyemeyeceği açık bir soru, ancak yalnızca sunulmuş olması bile yapay zekaya ne kadar hızlı ilerleme izni verilmesi gerektiğine dair daha geniş tartışmanın çetasını yükseltiyor.