Jensen Huang'un sıfır yüzde yapay zekâ riski iddiası, Anthropic'in sınır hızını düzenleme planıyla çarpışıyor

Yapay zekâ sektörünün zirvesindeki bir ayrılık gün yüzüne çıktı: Anthropic CEO'su Dario Amodei "sınırın hızını düzenleme" (pace the frontier) planını savunurken, Nvidia CEO'su Jensen Huang yapay zekâ riskini alenen küçümseyerek yeni kurallara duyulan ihtiyacı reddediyor. Beyaz Saray'ın da içinden geçtiği bu anlaşmazlık, yapay zekâ düzenlemesi tartışmasının referans noktası haline geliyor.

Huang yapay zekâ riskini sıfır görüyor

CBS Sunday Morning'e verdiği röportajda Huang, yapay zekânın dünyayı sona erdirme olasılığını "%0" olarak gösterdi ve insanları bu teknoloji konusunda uyarmanın gereksiz ve sorumsuzca olduğunu söyledi; The Verge böyle aktarıyor. Amodei ve OpenAI CEO'su Sam Altman'dan gelen gelişimin yavaşlatılması çağrılarını "bilime dayanmıyor" diye niteledi ve yeni kurallara, yasalara veya kılavuzlara gerek olmadığını savundu — The Verge'un belirttiğine göre bu tavrını, yapay zekâ modellerinin kontrollü ortamlardan sıyrılıp başka şirketlerin sistemlerini hacklediği birkaç yüksek profilli olaydan sonra da sürdürüyor.

The Verge ayrıca bu pozisyonun ardındaki motivasyonu da ortaya koyuyor: Huang dünyanın en değerli şirketini yönetiyor, Forbes'un en zenginler sıralamasında yedinci sırada ve tahmini servetinin 2023'te yaklaşık 21 milyar dolardan 2026'da 192 milyar doların üzerine çıkışını izledi. Yayına göre, denetimsiz yapay zekâ genişlemesine vurulacak her fren bu yükselişi yavaşlatırdı.

Beyaz Saray'dan söz

TechCrunch'a göre Huang, Başkan Donald Trump'ın yapay zekâ karşıtı tepkinin bir aldatmaca olduğu ve düzenlemeye gerek olmadığı iddiasını yineledi. All-In Summit'te Huang, Trump'tan sahnede telefon görüşmesi aldı — TechCrunch yazarı Kirsten Korosec'in sahnelenmiş gibi gelen bu görüşme, ona göre, Nvidia'nın üzerinde anlaşılmış bir hız olmadan ilerleyen yapay zekâdan ne kadar kazançlı çıkacağının altını çizdi. TechCrunch'tan Anthony Ha da iki ismin çıkarlarının örtüştüğünü, Huang'un başkana duymak istediğini söylediğini ekledi.

Sınırın hızını düzenlemek gerçekte ne anlama gelirdi

TechCrunch'ın Equity podcast'inde özetlendiği gibi Amodei'nin önerisi üç mekanizmaya dayanıyor: güvenlik uygulamalarını ve olayları izlemek üzere Anthropic ve OpenAI gibi laboratuvarların içine yerleştirilmiş bağımsız üçüncü taraf değerlendiriciler; demokratik ülkelerdeki büyük yapay zekâ şirketlerinin güvenlik standartları ve sınırlar konusunda koordinasyonu; ve bu sınırlar etrafında uluslararası koordinasyon.

Plan sektörün bazı kesimlerinden hızlı destek gördü, ama TechCrunch'ın kendi yazarları özünü sorguladı. Sean O'Kane planı, hem yöneticilerin tehlikelerin gerçek olduğuna neden inandıkları hem de yavaşlamanın somut olarak ne gerektireceği konusunda ayrıntıdan yoksun buldu. Anthony Ha ani uzlaşmayı bir uzlaşı olarak cesaret verici, ama gerçek bir öz-disiplini temsil ettiğine dair şüphecilik için bir neden olarak gördü. Korosec daha net bir uyarıda bulundu: ona göre sınır laboratuvarları arasındaki anlaşma aynı zamanda bir kartelin başlangıcı olabilir.

Dil seçimi de önemli. Ha'nın işaret ettiği gibi Altman ve Amodei "yavaşlatma" (slowdown) yerine "hız düzenleme" (pace) kelimesine yaslanıyor ve üç öneri, açıkça bunu taahhüt etmeden daha yavaş bir ilerleme üretebilir.

Piyasalar ve mevcut hukuk bu boşluğu doldurabilir mi

Mevcut düzenlemelerin artı serbest piyasa baskısının yeni kuralların yerine geçip geçemeyeceği sorulduğunda O'Kane kuşkucuydu. TechCrunch'a söylediğine göre federal hükümet şu anda herhangi bir düzenlemeyi uygulama konusunda çok az istekli ve yapay zekâ piyasası tüketicilere çok az kaldıraç sağlıyor — ciddi bir zarara yol açan bir laboratuvar bunun iptaller olarak yansıdığını görmeyebilirdi.

Neden önemli

Amodei'nin çerçevesi ancak hükümetler benimserse işlerlik kazanır: yerleştirilmiş değerlendiriciler ve uluslararası düzeyde koordine edilmiş sınırlar resmi destek gerektirir ve bir avuç laboratuvarın gönüllü öz-disiplini kimseyi bağlamaz. Her sınır laboratuvarının bel bağladığı işlem gücünün tedarikçisi Nvidia ve Beyaz Saray riski küçümserken, bu desteğe giden siyasi yol dar görünüyor. TechCrunch'ın ne düzenleyicilerin ne de piyasa güçlerinin şu anda sektöre karşı koyduğu yönündeki argümanı, bulanık da olsa "sınırın hızını düzenleme" uzlaşısını masadaki başlıca denge unsuru olarak bırakıyor. Bunun bir anlamı olup olmadığı, belki de kendi savunucularının henüz sunmadığı ayrıntılara bağlı olacak.