OpenAI, Anthropic ve Google DeepMind ile haftalarca süren ortak yapay zeka güvenliği görüşmelerini doğruladı

Rakip laboratuvarlar haftalarca süren ortak güvenlik koordinasyonunu doğruladı

OpenAI, yapay zeka güvenliği konusunda Anthropic ve Google DeepMind ile birkaç haftadır koordinasyon içinde; şirketin küresel politika şefi Chris Lehane bunu salı günü Washington'da gazetecilere söyledi. Haberi ilk aktaran Bloomberg'a atıf yapan TechCrunch'a göre Lehane, başkentte, yapay zekayla ilişkili felaket riskleri üzerinde ABD'li yasakoyucularla çalışmak için bulunuyor.\n Bu açıklama, Cumartesi günü yayımlanan ve Anthropic CEO'su Dario Amodei'nin sektörü frontier yapay zeka geliştirmesinin hızını yavaşlatmak ve felaket sonuçları önlemek için birlikte çalışmaya çağırdığı bir denemenin ardından geldi. TechCrunch'a göre OpenAI'den Sam Altman, Google'dan Demis Hassabis ve Elon Musk dahil olmak üzere sektörün yapay zeka liderleri bu çağrıyı destekledi; Altman, OpenAI'nin güvenliği izlemek üzere şirketin içine üçüncü taraf değerlendiriciler yerleştirme konusunda Anthropic'e katılacağını söyledi.

Görüşmelerin üzerinde rekabet hukuku sorunu belirmesi

Frontier yapay zekadaki en güçlü üç rakip arasında doğrudan koordinasyon hukuki risk taşıyor. TechCrunch'a göre Altman dahil bazıları, koordinasyonun rekabeti baskıladığı bulunursa görüşmelerin şirketleri antitrust yasalarını ihlal riskine sokabileceğine dikkat çekti. Amodei'nin denemesi böyle bir güvenlik koordinasyonuna izin veren dar kapsamlı bir hükümet muafiyeti önerdi, ancak Lehane'ye göre firmalar buna ihtiyaç duymuyor.

İşbirliğinin işaretleri zaten bir süredir artıyordu. Geçen hafta Fortune'ya verdiği röportajda Altman, diğer yapay zeka liderleriyle özel görüşmelere işaret etti. Bu hafta The Information, üç şirketin yapay zeka sektörü için bir standartlar kuruluşu oluşturmak üzere birlikte çalıştığını bildirdi — Altman'ın personele söylediğine göre bunun ABD hükümetinin desteği olmadan gerçekleşmesi gerekecek.

Doğrulama yetkileri olan bir standartlar kuruluşu

Standartlar kuruluşu fikri, TechCrunch'a göre Hassabis'in Temmuz'daki, ABD'nin dünyanın en gelişmiş modellerini inceleyebilecek ve tehlikeler ilerlerse sektör genelinde yavaşlamaları koordine edebilecek yeni bir denetim kurumu kurması çağrısını yankılıyor.

Yasama tarafında Lehane, aynı salı günü toplantısında OpenAI'nin FRONTIER Act'teki, en üst düzey frontier laboratuvarlarının modellerin güvenli geliştirildiğinden emin olmak için "bağımsız doğrulama kuruluşlarını" kabul etmelerini gerektirecek hükümü desteklediğini söyledi.

Beyaz Saray ana engel olmaya devam ediyor. TechCrunch'a göre Başkan Trump güvenlik endişelerini bir aldatmaca olarak görüp reddetti ve daha sıkı düzenlemeye duyulan ihtiyaca karşı çıktı; herhangi bir yavaşlamanın yarışta Çin'e avantaj sağlayacağını savundu. Trump'ın kilit yapay zeka danışmanı ve sektörün büyük bölümünde kişisel çıkarı bulunan uzun süredir yatırımcı olan David Sacks da yapay zekadan kaynaklanan varoluşsal risk korkularının abartıldığını söyledi.

TechCrunch, yorum için Anthropic, Google ve OpenAI'ye ulaştığını belirtti.

Neden önemli

En yetenekli yapay zeka sistemlerini geliştiren üç kuruluşun saf rekabetten yapılandırılmış güvenlik koordinasyonuna geçişi, sektörün kendini nasıl yönettiğinde kayda değer bir değişim. Bildirilen standartlar kuruluşu hükümet desteği olmadan şekil alırsa, bu, denetlemesi amaçlanan laboratuvarların kendilerinden gelen bir öz-düzenleme anlamına gelir; bu da çözümsüz antitrust sorusunu — muafiyet olsun ya da olmasın — çabanın hayatta kalıp kalmayacağının merkezine yerleştiriyor. FRONTIER Act'ın doğrulama hükmü yürürlüğe girerse, dış denetçilere ilk kez frontier model geliştirmesine resmi erişim sağlayacak. Ancak Beyaz Saray güvenlik odaklı yavaşlamalara açıkça düşman olduğundan, bağlayıcı denetimin şu anda Washington'dan ziyade sektör uzlaşısından doğması daha olası görünüyor.