OpenAI, Anthropic ve DeepMind yöneticileri frontier AI'ı yavaşlatmayı kabul etti, eleştirmenler kartel diyor

Önde gelen birkaç yapay zeka şirketinin üst düzey yöneticileri, frontier AI'ın geliştirilmesini yavaşlatmayı sözlü olarak kabul etti; bu hem güvenlik araştırmacılarından övgü aldı hem de derhal kartel davranışı suçlamalarını beraberinde getirdi. The Verge'un haberine göre OpenAI'den Sam Altman, Anthropic'ten Dario Amodei, Google DeepMind kurucu ortağı Demis Hassabis ve Elon Musk, hafta sonu içinde "sınırı tempolu ilerletmek" olarak çerçeveledikleri bir çaba konusunda gevşek bir anlaşmaya vardı.

Aslında ne önerildi

Taahhüt, Amodei'nin bir denemesinde ortaya konan üç aşamalı bir plana dayanıyor. The Verge'un aktardığına göre plan; METR, Apollo Research ve Redwood Research gibi isimlerin telaffuz edildiği bağımsız üçüncü taraf denetçilerin yapay zeka laboratuvarlarının içine yerleştirilmesini — sorunlu bulguları işaretleme ve kamuya açık biçimde ıslık çalma yetkileriyle — , yurtiçi laboratuvarların düzenlenmesini ve nihayetinde geliştirmeyi yavaşlatmak için küresel bir anlaşmaya ulaşılmasını öngörüyor.

Şüphecilere göreyse bu duyuru bambaşka bir anlam taşıyor: Şirketlerin rakip adaylarını engellemek, açık kaynak hareketini kenara itmek ve bağlayıcı hukuki güvencelerden kaçınmak istediğini savunuyorlar — kimileri bunu açıkça bir kartel olarak niteledi. Sektör uzmanları The Verge'a however, yavaşlama taleplerinin neredeyse tamamen belirli büyüklük ölçütleriyle tanımlanan büyük frontier laboratuvarlarına yönelik olduğunu, genel olarak açık kaynak geliştiricilerine değil.

Anlaşmanın arkasındaki baskı

Anlaşma, aylardır artan endişelerin ardından geldi. The Verge'a göre, yapay zeka ajanlarının Anthropic ve OpenAI'nin gözü önünde başıboş saldırılar düzenlediğinin ortaya çıkması ve her iki şirketin raporları denetimi yoğunlaştırdı. Anthropic araştırmacısı Jacob Coxon'un istifası — Coxon, yapay zeka inşa eden insanların "onun bu on yılın sonunda hepimizi öldürebileceğine ciddiyerek inandıklarını" yazmış ve hem OpenAI hem de Anthropic'i "hayatımızla kumar oynayarak" kendi kendini geliştiren süperzeka yarışına koşmakla suçlamıştı — ana akım haber kapsamına sıçradı ve X'te 170 milyondan fazla görüntülenme aldı.

OpenAI'nin eski çalışanı ve şu anda AI Futures Project'i yöneten Daniel Kokotajlo, The Verge'a fikrin CEO'ların icadı olmadığını söyledi: Bağımsız araştırmacılar yıllardır yavaşlama talep ediyordu; bunlara, OpenAI-Hugging Face olayının ardından Temmuz'da daha yavaş geliştirme çağrısı yapan ve bir mektubu imzalayan 1.000'den fazla yapay zeka laboratuvarı çalışanı da dahildi. Ona göre yöneticiler bu baskıya boyun eğerken hak etmedikleri krediyi de sahipleniyor.

Çekincelerle birlikte temkinli iyimserlik

The Verge'un konuştuğu birkaç kişi sözlü anlaşmayı gerçek bir adım olarak değerlendirdi. Apollo Research CEO'su Marius Hobbhahn bunu iyi bir fikir ve gerçekleşmesi hâlinde "uzun zamandır güvenlik adına olacak en iyi şeylerden biri" olarak nitelledi. Redwood Research CEO'su Buck Shlegeris temkinli bir iyimserlik duyduğunu ama bunun "gerçek bir şeye dönüşüp dönüşmeyeceğinden" emin olmadığını söyledi. NYU yardımcı doçenti ve Homeland Security Bakanlığı'nın eski yeni teknolojiler politikası direktörü Nick Reese, bunun tamamen boş laf olduğunu düşünmediğini — ama sektörün "yeni şampiyonlara ihtiyacı olduğunu" da ekledi; çünkü sektörün liderleri, ne inşa etmeye çalıştıklarına dair gerçekçi bir vizyonu hiç sunmamış durumdalar.

Güvenlik paktı mı, öz-düzenleme kitabı mı?

En keskin eleştiri teknoloji sektörü tarihinden besleniyor: Büyük platformlar defalarca, tercih ettikleri kurallar için lobi yaparak ya da öz-düzenleme sözü vererek düzenlemeyi fiilen önüne geçtiler; bazen küçük rakiplerini daha çok zorlayan politikaları da desteklediler. Kokotajlo, laboratuvarların denetçileri içeri alıp anlamlı bir yavaşlama olmadan güvenlik evrakı üreteceklerine dair "ciddi bir endişe" taşıdığını dile getirdi. Reese bu hamleyi on yıl önce sosyal medya şirketlerinin düzenleyici konumlanışına benzetti. Tech Oversight Project'ten Sacha Haworth her türlü gönüllü çerçeveyi bir tür düzenleyici ele geçirme (regulatory capture) olarak niteledi — "tilkilere kümes hanı işletmemeliyiz" — Political Integrity Project'ten Daniel Lobo-Lewis ise gönüllü kuralların Meta'nın Oversight Board'u gibi bir kadere sürükleneceğini öngördü.

Washington güvence olmayacak

Federal yapay zeka mevzuatının yakın vadede görünmesi olası değil. The Verge, President Trump'ın yapay zekanın ihtiyaç duyduğu tek kontrol veya koruma önleminin güçlü ve akıllı bir başkan olduğunu yazdığını, ayrıca Nvidia CEO'su Jensen Huang ile hoparlörden yaptığı telefon görüşmesiyle bir konferans kitlesine yakın tarihli yapay zeka endişelerinin bir "aldatmaca" olduğunu ve robotların kontrolü ele geçirmeyeceğini söylediğini aktarıyor. Yasal bir çerçeve gelmediği için, uygulanabilir özel düzenlemeler yakın vadedeki tek seçenek olabilir. Örneğin Kokotajlo'nun AI Futures Project'i, denetçilere laboratuvarların compute bütçelerine erişim verilmesini ve laboratuvarların araştırma compute'larını kısmasını öneriyor; bu, geliştirmeyi yavaşlatır ve diğer laboratuvarların yetişmesini sağlar. The Verge'un bildirdiğine göre en büyük engel ise Çin: ABD'li liderler uzun süredir Amerikan yapay zekasının duramayacağını, çünkü Çin yapay zekasının durmayacağını savunuyor.

Neden önemli

Sözlü anlaşma, frontier laboratuvarı liderlerinin kısıtlamayı kamuya açık biçimde desteklemenin değerini gördüğünün şimdiye kadarki en net sinyali — ama bağlayıcı bir yaptırım, gerçek erişime sahip denetçiler ve somut compute sınırları olmadan, bu durum sektörün en son güvenlik cileme (safety-washing) egzersizine dönüşme riski taşıyor. Ölçülebilir bir şeye dönüşüp dönüşmeyeceği; yapay zekanın nasıl yönetileceğini, hangi şirketlerin rekabet edebileceğini ve düzenleyicilerin hiçbir zaman yetişip yetişemeyeceğini şekillendirecek.