Anthropic'ten Amodei, frontier AI'ın temposunu düzenlemeye çağırıyor — hukuki itirazlar gecikmedi

Anthropic'in genel müdürü Dario Amodei, frontier AI geliştirmenin teknolojinin faydalarını korurken risklerini ve jeopolitik komplikasyonlarını yöneten, kasıtlı olarak dengeli bir hızda ilerlemesi gerektiğini savunan "We Must Pace The Frontier" başlıklı bir deneme yayımladı. Deneme, teknoloji hukukçusu Preston Byrne'den ayrıntılı bir hukuki eleştiri aldı; Byrne'in yazı hakkındaki gönderisi Hacker News'in ana sayfasına ulaştı.

Deneme ne öneriyor

Denemeden uzun alıntılar yapan Byrne'in gönderisine göre Amodei, yapay zekâyı beş ila on yıl içinde çoğu majör hastalığı tedavi edebilecek, ekonomik büyümeyi büyük ölçüde hızlandıracak ve insan yetkinliğini genişletecek bir teknoloji olarak çerçeveliyor — ama gücü nedeniyle risklerinin de ciddi olduğunu vurguluyor.

Onun cevabı tempoyu düzenlemek. Gönüllü kısıntı bir başlangıç noktası olsa da Amodei bunu yetersiz görüyor. Byrne'in aktardığına göre şöyle yazıyor: "Temponun düzenlenmesinin en etkili yolu, tüm ABD frontier AI şirketlerini kapsayan düzenlemelerdir; çünkü bu, gönüllü işbirliğine yanaşmayanları bile kapsar."

Byrne'in öne çıkardığı mekanizmalardan biri "gömülü değerlendiriciler": METR gibi üçüncü taraflardan ekiplere, güvenlik uygulamalarına uyumu doğrulamak, olayları raporlamak ve yalnızca bitmiş modellerin değil, eğitim pipeline'ları ve süreçlerinin de hizalanmasını değerlendirmek için AI laboratuvarları içinde çalışan benzeri erişim verilmesi. Amodei bunu finans kurumlarına gömülü bankacılık denetmenlerine benzetiyor ve bunu tempo taahhütlerini doğrulanabilir kılmanın anahtarı olarak nitelendiriyor.

İkinci mekanizma olan "demokratik koordinasyon", demokratik ülkelerdeki frontier AI şirketlerinin ortak güvenlik standartları ve denetlenmemiş ilerlemenin hızına sınırlar belirlemesi anlamına geliyor. Amodei, bazı faydalı koordinasyonun hukuken zor olduğu ve hükümet desteği gerektireceğini kabul ediyor.

Hukuki itirazlar

Byrne'in ilk itirazı, Anthropic'in kendi araştırmasını istediği zaman yavaşlatmakta özgür olduğu — bunu X'te David Sacks'a atfediyor — ancak Amodei'nin bunun yerine herkesin, denetim altında ve nihayetinde zorlayıcı devlet gücüne dayanarak, birlikte yavaşlamasını önerdiği.

Antitröst konusunda Byrne, Anthropic ve OpenAI'nin AI pazarındaki açık ara en büyük oyuncular olduğunu ve aralarında standart koordinasyonunun yasa dışı bir kartel olarak sınıflandırılma riski taşıdığını savunuyor. Koordinasyon fiyatlandırmaya ya da şartlara — örneğin Kimi veya DeepSeek gibi ayrılan herhangi bir modeli kesen API kuralları — uzasaydı risk daha da büyürdü. Onun okumasına göre, "hukuken zor" koordinasyon için hükümet desteği istemek, antitröst muafiyeti talep etmek anlamına geliyor.

İfade konusunda Byrne, ABD'de yazılım geliştirmenin genel olarak korunmuş bir ifade biçimi olduğunu, dolayısıyla bankacılık benzetmesinin çöktüğünü savunuyor: finansal raporlama sahtekârlığı anayasal bir hak değilken, ifade özirdir. Aynı benzetmenin, İngiltere'nin Online Safety Act'ını savunmak için Cambridge'den Alan Jagolinzer gibi akademisyenler tarafından da kullanıldığına dikkat çekiyor.

Geçmiş sicil konusunda Byrne, 2024'te dağılan "gönüllü" bir sektör güvenlik girişimi olan Global Alliance for Responsible Media'ya işaret ediyor. Byrne'in aktardığı Temsilciler Meclisi Yargı Komitesi'ne göre GARM, küresel düzenleyicilerle çalıştı ve Twitter'ın moderasyon kararlarına baskı yapmak için boykot tehditleri de dahil önemli bir kolektif güç kullandı. Çevrimiçi sansür rejimleri üzerine yaklaşık on sekiz ay hukuk mücadelesi verdiğini söyleyen Byrne, AI laboratuvarlarının iç sistemlerine çalışan düzeyinde erişimi olan yeni bir güvenlik kuruluşları sınıfının kurulmasının, daha derin bir erişimle bunun tekrarına davetiye çıkardığını savunuyor.

Çevresindeki tartışma

Deneme, yok olma riski üzerine ateşli bir tartışmanın ortasında geldi. 13 Eylül'de Eliezer Yudkowsky, X'te "AI'a ölme" ifadesinin iki partili de öncelik haline gelmesi çağrısı yaparak bunun hayat memat meselesi olduğunu söyledi. Byrne, en güçlü kıyamet tarafı konumunu, Batı toplumlarında benzeri görülmemiş ifade ve yayım kontrolleri talep etmek olarak nitelendiriyor; hem yok olma iddiaları hem de çare olarak toplam devlet kontrolü için kanıt olmadığını savunuyor ve yeni teknolojilerle ilgili kıyamet öngörülerinin şimdiye kadar hep yanlış çıktığına işaret ediyor.

Neden önemli

Bir frontier laboratuvarı CEO'sunun isteksiz rakipleri de bağlayan düzenlemeleri açıkça talep etmesi önemli bir politika beyanı. Bu, AI güvenliğini gönüllü taahhütlerden zorunlu rejimlere kaydırıyor ve yasamacılardan örtük olarak iki büyük taviz istiyor: özel şirketlerin içine gömülü yeni denetim kurumları ve baskın oyuncular arasındaki koordinasyon için antitröst müsaadesi. Byrne'in yanıtı, böyle bir rejimin karşılaşacağı hukuki fay hatlarının önizlemesi — denetçileri kim denetleyecek, koordineli bir yavaşlama kartel mi sayılır ve kod korunmuş bir ifade mi. Bu soruların nasıl çözüleceği, ABD AI mevzuatının şartlarını ve Amodei'nin denemesinin muhtemel kışkırtacağı mücadeleleri şekillendirecek.