OpenAI'ın matematik danışma grubu, çözmek için kurulduğu karmaşanın ortasına doğdu

OpenAI, aylardır matematikteki gerçek atılımları kötü yönetilen duyurularla bir arada sunuyor ve matematik topluluğuyla ilişkilerini onarma girişimi de tanıdık bir biçimde başladı. The Verge'e göre şirketin son hamlesi — seçkin matematikçilerden oluşan bağımsız bir danışma grubunu desteklemek — öyle bir şekilde duyuruldu ki pek çok araştırmacı grubun gerçekte ne olduğu konusunda emin olamadı.

OpenAI'ın yaklaşımından doğan bir grup

21 Eylül'de dokuz önde gelen matematikçi, Matematik ve Yapay Zekâ Danışma Grubu'nu (AGMAI), UCLA profesörü ve Yapay Zekâ şirketlerinin matematikteki davranışlarının sesli eleştirmeni olan Fields Madalyası sahibi Terence Tao'un blogunda konuk yazısı olarak duyurdu. Grup bağımsız çalışacağını ve OpenAI ile diğer sınır yapay zekâ laboratuvarlarına yeni sonuçların hakemli değerlendirmesi ve iletişimi konusunda danışmanlık yapacağını söylüyor.

OpenAI'ın kendi duyurusu ağırlıklı olarak bu bağımsızlığa dayanıyordu: üyeler şirketi alenen eleştirebilir, tavsiyelerini yayımlayabilir ve OpenAI'ın talep etmediği yönlendirmelerde bulunabilirdi. Şirket aynı zamanda bir sınır da çizdi ve grubun OpenAI'ın matematikte içeriden ne kadar hızlı ilerleyeceği konusunda söz hakkının olmayacağını belirtti.

Kafa karıştırıcı bir başlangıç

The Verge'e göre birçok matematikçi — ve bu topluluk dışındaki çoğu kişi — AGMAI'yi ilk kez OpenAI'ın çok daha ses getiren tanıtımı aracılığıyla öğrendi ve ardından kafa karışıklığı yaşandı. Yayına konuştuğu several matematikçi başlangıçta grubun OpenAI tarafından atanan bir organ olduğunu varsaydı. Bu okuma temelsiz değildi: AGMAI'nin web sitesi, grubun OpenAI'ın olası üyelerinden bazılarına bir danışma kurulu kurulması için yaklaştıktan sonra, bağımsız örgütlenmeye ve başka kişileri davet etmeye karar vermeden önce şekillendiğini söylüyor. OpenAI'ın başlangıçta dokuz kişiden hangilerine yaklaştığı hâlâ belirsiz.

AGMAI üyesi ve Imperial College London ile EPFL profesörü Martin Hairer, The Verge'e grubun OpenAI'dan maddi, teknik veya başka bir destek almadığını ve üyelerin, araştırmalara erken erişim için gereken standart gizlilik gereklilikleri dışında onları kısıtlayan hiçbir şey imzalamadığını söyledi. "OpenAI için çalışmıyoruz, onlar tarafından ödenmiyoruz ve grup tamamen bağımsız," dedi. Grup diğer sınır yapay zekâ laboratuvarlarıyla görüşmelere de başladı, ancak Hairer onların adlarını vermeyi reddetti.

Hairer, duyurudan sonraki günleri "çok sinir bozucu" ve "yoğun" olarak nitelendirdi ve çabanın ne kadar doğaçlama olduğundan açıkça söz etti: grup "iki gün önce başladı," dedi, dolayısıyla henüz büyük bir plan yok. OpenAI'ın duyurusu hakkında ise ifadelerin grubun bağımsızlığını ortaya koymak için "pek yardımcı olmadığını", buna karşılık şirketin söz seçiminin teknik olarak dikkatli olduğunu kabul etti. "Açıkçası çok iyi halkla ilişkiler insanları," dedi.

Aceleye getiren birikmiş işler

Aciliyetin OpenAI'ın elinde tuttuklarıyla bağlantılı olduğu görülüyor. The Verge, OpenAI'ın Navier-Stokes Milenyum Ödülü problemi çözümünden — kendisi de itibar, öncelik ve matematikçilere muamele konusunda kavgalara dönüşen bir duyuru — bu yana, yayımlanmamış iç modelinin "matematiğin çoğu alanında 100'den fazla uzun süredir açık problemi çözdüğünü" söylediğini aktarıyor. Bu yığının yayımlanmasını koordine etmek AGMAI'ye verilen ilk görev ve böyle bir sonuç dalgasının alanlarına ne yapabileceği ihtimali araştırmacılar arasında şimdiden kaygı uyandırıyor.

Özensiz akademik çalışma suçlamaları

The Verge'e konuşan araştırmacılar OpenAI'ın son matematik çıktılarını kötü yazılmış, çevresindeki literatürle yüzeysel biçimde ilgilenmiş ve değerlendirilmesi zor olarak niteledi — bu da sonuçların önemini ölçmeyi güçleştiriyor ve kilit çalışmaların hakkını vermiyor. Ayrıca eksiklikleri gidermek için belgelerin yayımlandıktan sonra sessizce revize edildiğine, neyin değiştiğine dair bir duyuru ya da net bir kayıt bulunmadığına dikkat çektiler. The Verge, bunu OpenAI'ın Ağustos başındaki "Matematik ve teorik bilgisayar biliminde on ilerleme" duyurusu çevresinde gözlemlediğini söylüyor; Hairer ise ayrıca el yazmalarının eleştirilere yanıt olarak "gizlice" değiştirildiği örnekler aktararak bunu "gerçekten kötü ve özensiz bir akademik çalışma" olarak nitelendirdi.

Connecticut Üniversitesi matematik profesörü Álvaro Lozano-Robledo kültürel farkı açıkça ortaya koydu: "Hiçbir akademisyen böyle davranmaz. Ben sokakta gezip 'Bakın, bütün bunları kanıtladım ama onlarla ne yapacağımı bilmiyorum' demem." OpenAI'dan Laurance Fauconnet'in şirketin başka bir Milenyum Ödülü probleminde "önemli ilerleme kaydettiğini" söylemesine benzer bir karşıtlık çizdi: "Ya çözmüşsünüzdür ya da hâlâ uğraşıyorsunuzdur."

Neden önemli

Bu olay halkla ilişkilerden daha fazlası hakkında. Matematikte bir çözüm ve onunla gelen anlayış geleneksel olarak birbirinden ayrılmazdı ve yapay zekâ ile üretilen sonuçlar onları birbirinden koparma tehdidi taşıyor. OpenAI'ın gerçekten yayımlanmayı bekleyen 100'den fazla çözülmüş problemi varsa, bunları gözden geçirme, bağlama oturtma ve atıf verme işi, bunları üretmemiş bir topluluğun omuzlarına binecek — Lozano-Robledo'nun alanın taşımaya çağrıldığı bir "yük" olarak nitelendirdiği şey. Sessiz yayım sonrası düzenlemeler işleri daha da kötüleştiriyor, çünkü matematik istikrarlı ve güvenilir bir kayda dayanır. AGMAI'nin yapay zekâ ile üretilen sonuçların yayımlanması için işler normlar oluşturup oluşturamayacağı, gerçekten bağımsız görünüp görünememesine bağlı ve karmakarışık geçen ilk haftası, tam da sonuçların yığıldığı bu anda bu görevi zorlaştırdı.