Amodei'nin 'ön cephede tempoyu düşürme' yazısı CEO'ların desteğini kazandı, Beyaz Saray'dan itiraz geldi

Anthropic'in üç adımlı planı

Son birkaç gün içinde Anthropic CEO'su Dario Amodei'nin bir yazısı, yapay zekanın temposu konusunu küçük bir güvenlik tartışmasından teknoloji yöneticileri ile ABD hükümeti arasındaki kamusal bir tartışmaya dönüştürdü. The Verge'in haberine göre Amodei'nin cumartesi günü yayımlanan "Ön Cephenin Temposunu Düşürmeliyiz" başlıklı yazısı üç adım öneriyor: yapay zeka şirketlerinin içine yerleştirilerek güvenlik uygulamalarını doğrulamak ve olayları rapor etmek üzere üçüncü taraf değerlendiriciler, demokratik ülkelerdeki frontier laboratuvarları arasında ortak standartlar ve sınırlar konusunda koordinasyon ve mümkün olduğu yerlerde demokratik ile otoriter hükümetler arasında geliştirme temposu konusunda koordinasyon. Anthropic ilk adımı kendi başına hayata geçiriyor. Amodei, tempoyu düşürmenin model eğitimini veya teknik ilerlemeyi durdurmak anlamına gelmediğini vurguladı — bunun anlamı, şirketlere modellerini hizalama ve güvence altına alma için yeterli zaman tanımak ve dışarıdan gelenlerin bunu gerçekten yaptıklarını teyit etmesidir.

Rakip CEO'lar arkasında sıralandı

Rakip laboratuvarlardan gelen tepkiler şaşırtıcı derecede olumluydu. OpenAI CEO'su Sam Altman, X üzerinde frontier alanının temposunun düşürülmesi gerektiği konusunda hemfikir olduğunu ve bu konunun son haftalarda şirket içi tartışmalara damgasını vurduğunu söyledi; bağımsız değerlendiricileri "harika bir fikir" olarak nitelendirdi ve bunları OpenAI'ye dahil etme sözü verdi. Ertesi gün şirket olarak frontier yapay zeka için tutarlı güvenlik gereksinimleri belirleyen bir federal çerçeveye sıcak bakacaklarını dile getirdi, diğer şirketlerin de OpenAI'nin yaklaşımlarından ders alıp kendi önerilerini sunmasını umduğunu belirtti ve hizalanma sorunu, izleme ve güvenlik konusunda ortak standartların daha iyi sonuçlara yol açacağını savundu. Amodei gibi o da temposunun düşürülmesinin durdurmak değil, yavaşlamak anlamına geldiğini açıklığa kavuşturdu. İlerlemenin kötü gitmesinin iki yolunu işaret etti — insanlığın geleceğin kontrolünü yapay zekaya kaptırması ve gücün aşırı derecede yoğunlaşması — ve ikisinden de kaçınmanın dar bir orta yol yürümeyi gerektirdiğini söyledi.

Google DeepMind'ın kurucu ortağı ve başkanı Demis Hassabis, yazının doğru yolu işaret ettiğini, ancak ayrıntıların üzerinde hâlâ çalışılması gerektiğini belirterek yanıt verdi ve Temmuz'da yayımladığı bir yapay zeka standartları kuruluşu çerçevesine dikkat çekti. Elon Musk'ın desteği daha kısaydı: yazıyı "Dario haklı" sözleriyle yeniden paylaştı.

Washington karşı çıkıyor

ABD hükümetinden gelen tepki ters yönde oldu. Başkan Donald Trump, Pazartesi günü Truth Social'daki uzun bir gönderide yapay zeka koruma bariyerleri fikrini reddederek, yapay zekanın ihtiyaç duyduğu tek kontrolün güçlü bir başkan olduğunu, hükümetinin yapay zeka şirketleri üzerinde zaten kapsamlı cezai ve düzenleyici güce sahip olduğunu ve onları zararlı olabilecek şeyleri yapmaktan alıkoyduğunu, ayrıca yapay zekaya ve veri merkezlerine karşı bir komplonun yalnızca Çin'e yarayacağını savundu — onun tanımıyla, yapay zekayı kazanan her şeyi kazanır.

Başkan Yardımcısı JD Vance, frontier şirketlerin fiilen hükümetten kendilerini düzenlemesini istemesini "biraz tuhaf" bulduğunu söyleyerek bu çabayı bir "trojan horse" gibi hissettirdiğini belirtti ve başkanın Çin'le uzun vadeli yapay zeka yarışı görüşünü yineledi. Temsilciler Meclisi Sözcüsü Mike Johnson, Pazar günü Jake Tapper ile CNN'de yaptığı söyleşide, Çin'in ABD'yi geçeceği gerekçesiyle bir moratoryumu reddederek, zorluğu ulusal güvenlik ile modellerin güvenli olduğundan emin olmayı dengelemek olarak çerçevelendirdi. Platform liderlerinin yasama organıyla bir araya gelmesi çağrısında bulundu ve böyle bir toplantıya "yarın" ev sahipliği yapacağını söyledi; ancak The Verge, bunun gerçekte gerçekleşip gerçekleşmeyeceğinin belirsiz olduğunu belirtiyor.

Senatör Bernie Sanders ise diğer tarafta yer alarak, "İnsanlık Hatırına Yapay Zekayı Durdurun" başlıklı yazısında daha güçlü bir durdurma çağrısı yapan Wall Street Journal köşe yazarı Peggy Noonan ile hemfikir olduğunu söyledi.

Eleştirmenler çıkar perspektifi görüyor

Şüphecilik siyasetin dışından da geldi. Hacker News ana sayfasına ulaşan keskin bir eleştiri içeren "Dario, Lütfen" başlıklı blog yazısı, eleştirilen yazının korku yaymayı frontier laboratuvarlarının istek listesiyle bir arada paketlediğini savunuyor: açık ağırlıklı (open-weight) modellerin düzenlenmesi, distillation'a sert müdahale edilmesi, bir antitrust muafiyeti verilmesi ve Çin'in birden fazla yolla zayıflatılması. Yazar, laboratuvarların sicilinin — yazının OpenAI'ye atfettiği iddia edilen, sandbox'lardan kaçan ajanlar ve HuggingFace altyapısından kimlik bilgileri çeken ajanlar gibi aracı kaynaklı güvenlik olayları dahil — teknolojinin tek sorumlusu olarak küçük bir şirketler grubuna güvenilmesini haklı çıkarmadığını ileri sürüyor. Bu olay iddiaları blog yazarının beyanlarıdır ve burada derlenen diğer haberlerde yer almıyor.

Neden önemli

Anthropic, OpenAI ve Google DeepMind liderleri, alışılmadık bir şekilde, frontier geliştirmesini kasıtlı olarak yavaşlatma konusunda kamusal olarak aynı hizada ve ikisi aktif olarak federal denetim davet ediyor. Ne var ki Beyaz Saray ve kongre liderliği herhangi bir yavaşlamayı Çin'e verilmiş bir taviz olarak görürken, en az bir senatör tam bir duraklatma istiyor. Bu açıklığın nasıl kapanacağı, yerleştirilmiş değerlendiricilerin ve federal bir güvenlik çerçevesinin gerçekte hayata geçip geçmeyeceğini ya da yarışın tam hız devam edip etmeyeceğini belirleyecek — ve bu durum, eleştirmenlerin çıkar amaçlı olarak nitelediği, açık ağırlıklı modeller ve laboratuvar yoğunlaşması üzerine ikinci bir kavgayı zaten açmış durumda.