· kaynak TechCrunch
OpenAI baş bilim insanı, yapay zeka geliştirme sınırları için perplexity'yi ölçüt olarak öneriyor
Jakub Pachocki, bir modelin metni ne kadar iyi tahmin ettiğini ölçen perplexity'nin, yapay zeka laboratuvarlarının ilerlemeye uygulanabilir sınırlar koymak için kullanabileceği ortak bir kıyaslama ölçüsü olabileceğini savunuyor.

Öneri
OpenAI'nin baş bilim insanı Jakub Pachocki, yapay zeka geliştirmesini sınırlamak için somut bir mekanizma önerdi: perplexity — bir dil modelinin metni ne kadar iyi tahmin ettiğini gösteren istatistiksel bir ölçüm — endüstri genelinde bir ölçüt olarak benimsensin ve laboratuvarlar, yapay zeka davranışını anlama ve izleme yetenekleri üzerinde kararlaştırılan bir eşik noktasına ulaşmadığı sürece belirli bir sınırı aşmama taahhüdünde bulunsun.
Yeni blog yazısını aktaran TechCrunch'a göre OpenAI CEO'su Sam Altman, bunu OpenAI'nin uzun zamandır yayımladığı en önemli şey olarak nitelendirdi.
Aynı adlı arama şirketiyle hiçbir ilgisi olmayan perplexity, bir modelin bir sonraki token'ı tahmin etmedeki ortalama doğruluğuna göre puan verir; düşük değerler daha iyi tahmin anlamına gelir. Pachocki'nin bu konudaki gerekçesi, ilerlemenin şu anda nasıl izlendiğine dair bir şikayetten yola çıkıyor: Onun görüşüne göre, kendisinin "aşağı akış yetenekleri" dediği şeyi test eden kıyaslamalar teknoloji ilerledikçe hızla modası geçiyorken, perplexity bilgilendirici olmaya devam ediyor.
Yazısında, GPT-3.5'ten bu yana OpenAI modellerinin perplexity değerinin düştüğünü gösteren bir grafik yer alıyor ve Pachocki bu sayıları yetkinlik eşikleriyle ilişkilendiriyor. Yaklaşık 0.91 seviyesindeki GPT-4, chain-of-thought akıl yürütmeyi kullanmada yeterince yetkinlikti ve OpenAI bu yeteneği daha sonra kasıtlı olarak ortaya çıkardı; bu da modern akıl yürütme modellerinin doğuşuna yol açtı. Şimdi ise kayıpların 0.8'in altına düşmesiyle birlikte, onun dönüştürücü olarak nitelendirdiği yeteneklerin siber güvenlik ve matematik gibi alanlarda ortaya çıktığını söylüyor.
Onun çerçevesinde, bu geçmiş, ölçümü genel zeka için makul bir ortak ölçüt haline getiren şey. Laboratuvarlar sayı üzerinde anlaşabiliyorsa, ortak sınırlar üzerinde de anlaşabilirler — ve kimse daha ileri gitmeden önce modelleri anlama ve izleme konusunda neyin başarılması gerektiği üzerinde de.
Girdiği tartışma
Yazı, sert biçimde tırmanan bir tartışmanın tam ortasına düştü. TechCrunch'a göre, hem OpenAI'de hem de Anthropic'te çalışmış eski bir araştırmacı, şirketlerin "canımızla kumar oynadığını" söyledi ve Anthropic'in kendi halka arz başvurusu, teknolojinin toplum için felaket boyutunda ya da varoluşsal riskler oluşturabileceğini kabul etti.
Anthropic CEO'su Dario Amodei, laboratuvarları ortak güvenlik standartları benimsemeye ve "kontrolsüz yapay zeka ilerlemesinin hızına sınırlar" koymaya çağırarak "sınırları ölçülü ilerletme" planıyla yanıt verdi. TechCrunch'ın aktardığına göre plan, hem Altman'dan hem de Elon Musk'tan onay aldı.
O planın eksik olan şeyi ise bir hız göstergesiydi. İlerleme hızına bir sınır koymak, neyin ve nasıl ölçüldüğü üzerinde anlaşma gerektiriyor — Pachocki'nin yazısının tam olarak doldurduğu boşluk da bu.
Ne olması gerekirdi
Önerinin pratikte işleyebilmesi için birkaç koşulun yerine gelmesi gerekir. Eşikler yalnızca tüm sınır laboratuvarları imza atarsa bağlayıcı olur; bazı şirketlerin uyduğu, diğerlerinin uymadığı bir sınır çoğunlukla yalnızca kimin önce varacağını değiştirir. Karşılaştırılabilirlik de verilmiş bir şey değil, teknik bir soru; çünkü perplexity belirli verilere göre ölçülür ve bir şirketin sayısının bir başkasınınkiyle aynı anlamı taşıması için laboratuvarların üzerinde anlaştıkları değerlendirme setlerine ihtiyacı olur.
Önerinin içine işlenmiş bir gerilim de var. Pachocki'nin kendi grafiği, dönüştürücü siber güvenlik ve matematik yeteneklerinin ortaya çıkışını 0.8'in altındaki kayıplarla ilişkilendiriyor — kendi ifadesine göre OpenAI modellerinin çoktan geçtiği bir seviye bu. Bir eşiği aşmama taahhüdü, yalnızca tavan sınırın henüz gidilmemiş bir yerde durması halinde caydırıcı olur ve TechCrunch'ın aktardığına göre yazı, duraklama koşulunu belirli bir kesme noktası belirterek değil, bir izleme eşiği olarak çerçeveliyor.
Neden önemli
Yapay zeka geliştirmesini yavaşlatmaya yönelik tartışmalar büyük ölçüde ilke düzeyinde kaldı. Bu ise, sınırda ya da sınıra yakın bir laboratuvarın baş bilim insanı tarafından önerilen, spesifik ve ölçülebilir bir mekanizma; üstelik o laboratuvarın CEO'su tarafından önemli olarak işaretlenmiş. Ayrıca doğrudan bir rakibin çerçevesiyle etkileşime giriyor: Amodei kontrolsüz ilerlemeye sınırlar istedi ve OpenAI şimdi, bu sınırların ihtiyaç duyacağı ortak ölçüm için bir adayla yanıt veriyor. Perplexity'nin rakip laboratuvarlarla temasında varlığını koruyup korumayacağı — ve herhangi birinin çoktan aşmış olduğu bir tavanda anlaşıp anlaşmayacağı — bunun gerçek bir koruma bariyeri mi yoksa iyi gerekçelendirilmiş bir konum yazısı mı olacağını belirleyecek.
- #openai
- #ai-safety
- #language-models
- #benchmarks
- #anthropic