Cohere CEO'su Aidan Gomez'a göre dünyanın AI kurallarını birkaç laboratuvar yazmamalı

Cohere'nin kurucu ortağı ve CEO'su Aidan Gomez, şirketin blogunda yayımladığı bir denemede, AI yönetişimindeki asıl sorunun teknolojinin kurallara ihtiyacı olup olmadığı değil, bu kuralları kimin yazacağı olduğunu savunuyor. Hacker News'in ana sayfasına kadar yükselen yazı, Gomez'e göre bu hafta Anthropic CEO'su Dario Amodei tarafından yayımlanan bir yol haritasını hedef alıyor ve en büyük Silikon Vadisi laboratuvarlarını, herkes için standart belirlemelerine izin verecek antitrust muafiyetleri aramakla suçluyor.

Argümanın özeti

Gomez'in başlangıçtaki tavizi, AI'ın koruma barlarına ihtiyaç duyduğu; bunu tartışmasız olarak nitelendiriyor ve yüksek yetenekli sistemlerin bağımsız incelemesinin desteklediği iyi bir fikir olduğunu söylüyor. İtirazı prosedüre ve yapıya yönelik. Öneriyi okuma şekline göre, tek bir ülkede bulunan en güçlü laboratuvarlardan oluşan küçük bir grup, ortak standartlar ve teknolojinin gelişme hızına sınırlar üzerinde anlaşacak; rakiplerin ürettiklerini sınırlamayı anlaşmaları normalde yasadışı olduğundan, plan hükümetlerden dar kapsamlı bir antitrust muafiyeti isteyecek ve ardından diğer tüm geliştiriciler, katılımcıların üzerinde anlaştığı her şeye uymak zorunda kalacak.

Böyle bir düzende kamuya açık yorum süresi, istişare veya oylama olmadığına dikkat çekiyor. Masaya birkaç şirket daha eklemenin de sorunu çözmeyeceğini savunuyor: sorun, kararların hiç fikri sorulmayan her şirkete, hükümete ve vatandaşa ulaşmasıyken, tamamen dışlayıcı bir listenin varlığının kendisidir.

Gomez'in öne sürdüğü tarih

Durumu kanıtlamak için iki regülasyon dönemi örneğine dayanıyor. 1975'te ABD Menkul Kıymetler ve Borsa Komisyonu, sermaye kuralları için üç şirketi Nationally Recognized Statistical Rating Organization (Ulusal Düzeyde Tanınan İstatistiksel Derecelendirme Kuruluşu) olarak atadı ve başkalarının nasıl nitelik kazanacağına dair kriter yayımlamadı. Gomez'e göre yirmi beş yıl sonra hâlâ yalnızca üç kuruluş vardı ve küresel finansal kriz öncesinde subprime ipotekli menkul kıymetlere üçlü-A derecesi vermeye devam ettiler.

Avrupa ise benzer bir deneyi 1985'te yaptı: otomobil üreticileri, karmaşık ve güvenlik açısından kritik araçların üreticinin kimin satış ve servis yapabileceğini denetlemesini gerektirdiği gerekçesiyle savunulan bir antitrust muafiyeti olan Motorlu Taşıt Blok Muafiyeti için lobicilik yaptı. Gomez'e göre bunun sonucu daha güvenli arabalar olmadı ve Avrupa Komisyonu bu düzeni geri almak için yaklaşık yirmi beş yıllık reformlara ihtiyaç duydu. Her iki durumda da, yazdığına göre açıklanan hedef güvenlikti ve kimse bir kartel kurmaya niyetlenmemişti; yine de sonuç, köklü oyuncuları koruyan ve rekabeti sınırlayan bir piyasa yapısı oldu.

Teknik itirazlar

Süreç sorununun ötesinde Gomez, birkaç laboratuvar tarafından tasarlanan bir güvenlik rejiminin yalnızca bu laboratuvarların değerlendirme sistemlerini zaten kurduğu riskler konusunda titiz olacağını, geri kalan her şey konusunda sessiz kalacağını savunuyor. Mevcut çerçevelerde risk, ölçeğin bir fonksiyonu olarak tanımlanıyor; bu da fiilen en büyük sistemlere sahip şirketleri, yargılamaya tek qualified olanlar hâline getiriyor.

Alanındaki açık bilimsel anlaşmazlığa işaret ediyor: saldırgan yeteneğin ne kadarı ham model boyutundan, ne kadarı modelin etrafına sarılmış araç ve doğrulama adımlarından geliyor. İyi orkestre edilmiş küçük modeller, büyük modellerin yapamadığı şeyler yapabilir diye savunuyor ve koordineli bir sistem sürüsü, tek bir modelden farklı bir risk yüzeyi ortaya koyuyor. Bunların hiçbiri, yalnızca devasa compute eşikleri etrafında kurulu bir rejimde görünmüyor.

Ayrıca denemede yer alan, koordinasyonun geliştiricilere ticari avantajdan vazgeçmeden güvenlik çalışmaları için zaman kazandıracağı sözüne dikkat çekiyor ve bunun kimin avantajını koruduğunu soruyor. Çerçeveyi taslaklayan şirketler, bugün piyasanın zirvesinde oturan şirketler; herkesi yavaşlatırken mevcut avantajı açıkça koruyan bir mekanizma, bugünkü liderliği güvenli rekabetin taban çizgisine dönüştürme riski taşıyor.

Gomez'in söylemediği şey

Deneme, güvenlik kurallarına karşı bir argüman değil. Gomez, Cohere'nin kendi sistemlerinin bankaların, telekomünikasyon ağlarının ve savunma bakanlıklarının içinde çalıştığını anlatıyor ve siber saldırının, savunmaların gelişme hızından daha hızlı ucuzladığını, gerçekten kaygı verici bulduğu bir boşluk olduğunu söylüyor. Pozisyonunu güvenlik karşıtı değil bilim yanlısı olarak çerçeveliyor: kurallar bilimsel kanıta ve açık katılıma dayanarak belirlenmeli, ticari çıkarlara hizalı küçük bir yönetici grubuna devredilmemeli.

Okuyucuların tartması gereken bir bağlam: Cohere, Gomez'in saldırdığı öneriyi yapan laboratuvarlarla rekabet ediyor ve başka yerlerde yazılacak standartlara bağlı olacak geliştiriciler arasında yer alıyor.

Neden önemli

Deneme, ısınan yönetişim tartışmasını "AI düzenlenmeli mi" sorusundan "kim, hangi süreçle düzenlemeli" sorusuna kaydırıyor. Gomez'in tarihsel paralellikleri tutarsa, köklü oyuncular tarafından yazılan güvenlik kuralları, geri alınması on yıllar süren bir piyasa yapısına dönüşebilir; bu, AI sektörünü zaten inceleyen rekabet otoriteleri için doğrudan bir endişe. Compute eşiklerinin, riskin iyi orkestre edilmiş küçük sistemlerden nasıl ortaya çıktığını gözden kaçırdığına dair teknik argümanı ise, standartları kim yazarsa yazsın regülatörlerin cevaplamak zorunda kalacağı bir soru. Ve kurumsal pazara odaklı bir meydan okuyucu ile frontier laboratuvarlar arasındaki kamusal ayrılık, sektörün şu anki en keskin bölünmesinin yetenek değil, kural kitabını kimin kontrol ettiği olabileceğini gösteriyor.