Karpathy: LLM yeteneklerine dair ortak anlayış dik bir huniye dönüşüyor

Yapay zekâ araştırmacısı Andrej Karpathy, büyük dil modellerinin neler yapabileceğine dair kamunun ortak resminin, benimseme büyüdükçe parçalandığını söylüyor. X'te yayınlayıp Hacker News'in ana sayfasına taşınan bir gönderide Karpathy — Nisan'da ilk kez yayınladığı görüşleri yeniden gündeme getirerek — durumun artık iki grubun sadece birbirini anlayamamasının ötesine geçtiğini ve her seviyesinde aynı teknolojinin kökten farklı deneyimlendiği dik bir huniye benzediğini savundu.

Dört deneyimden oluşan huni

Karpathy'nin rakamları açıkça kaba tahminler, ama dört katman çiziyorlar. Yaklaşık 6 milyar insan, dünyanın yaklaşık yüzde 75'i, LLM'lerle neredeyse hiç karşılaşmamış durumda. Bir başka 1-2 milyar kişi, yaklaşık yüzde 20, ücretsiz chatbot ürünlerinin gündelik kullanıcıları; onlara göre teknoloji biraz daha iyi bir arama motoru ya da bir yazım asistanı olarak okunuyor ve matematik ile programlama dışındaki pek çok profesyonelin bile bu katmanda yer aldığını belirtiyor, çünkü bu sistemlere dair algıları hâlâ ikinci elden ve soyut.

Üçüncü katmanda anlatısı değişiyor. Nüfusun yaklaşık yüzde 0,2'sine denk gelen, kabaca 20 milyon kişinin matematik ve kod alanlarında sınır sınıf (frontier) modellerle profesyonel olarak çalıştığını tahmin ediyor. Bu grup, agent'ların bir prompt'tan yola çıkarak büyük projeleri tamamladığını — uygulama inşa etme, kopyalama, taşıma ve hatta decompile etme — izliyor; eskiden haftalar ya da aylar süren işler bunlar. Karpathy, bundan az bir yıl öncesine kadar kendisinin de kodu elle, karakter karakter, arada bir otomatik tamamlamayla yazdığını ekliyor.

Hunnin en dar noktasında, kabaca 5.000 kişi — yaklaşık yüzde 0,00006 — sınır sınıf sistemlere içeriden erişime sahip. Dış dünyanın şimdiye kadar gördüğünün yalnızca bir önizleme olduğunu yazıyor: binlerce agent'ın yazılım mega projelerinde haftalarca iş birliği yapması, zero-day exploit'ler üretmesi, siber saldırı ve savunmayı otomatik hızda yürütmesi ve yeni bilim ile matematik üretmesi. İnsan kavrayışının geride kaldığının kanıtı olarak, aylar önceki OpenAI-HF olayını hâlâ çözümlemeye çalışan araştırmacılara ve 722 sınır sınıf matematik el yazmasından oluşan bir yığınla karşı karşıya olan matematikçilere işaret ediyor.

Bölünmeyi besleyen üç güç

Karpathy huniyi üç faktöre bağlıyor. İlki, etkinin hırsyla ölçeklenmesi: bir paragraflık cevap gerektiren bir soru sistemi pek yormuyor, dolayısıyla gerçek kazancın kullanıcının gerçekten önem verdiği büyük ve zor problemlerden oluşan bir yedek gerektiriyor. Bu, diyor, gündelik kullanıcıları profesyonellerden ayırıyor. İkincisi, bu sistemlerin pürüzlü (jagged) yapısı: yetenek, dijital, doğrulanabilir ve ekonomik olarak değerli alanlarda yoğunlaşıyor; Karpathy bu şekli, gelir potansiyeline göre seçilmiş bir ortam karışımı üzerinden doğrulanabilir ödüllerle yapılan pekiştirmeli öğrenmeye (reinforcement learning) bağlıyor. Bu, matematik ve kodu diğer mesleklerden ayırıyor. Üçüncüsü ise erişimin kendisi — ücretsiz katman, ücretli katman, içeriden erişim — ki bu da içeridekileri herkesin geri kalanından ayırıyor.

Neden önemli

Karpathy'nin çerçevesi kabaca bile doğruysa, kamusal tartışma, kurumsal planlama ve regülasyon, birbirinden bambaşka temel referanslara göre ayarlanıyor demektir. İnsanlığın çoğunun yapay zekâyla yaşanmış deneyimi bir paragrafa yardım eden bir chatbot; ince bir profesyonel dilim proje zaman çizelgelerinin çöktüğünü izliyor; ve küçücük bir içeriden gören grup, insanların çıktısını incelemekte zorlandığı sistemlerle çalışıyor. İncelemenin geri kaldığına dair örnekleri — olay arkeolojisi ve makine üretimi matematiğin biriken yükü — yetenekle birlikte büyüyen bir yönetişim sorununa işaret ediyor. Rakamlar bir araştırmacının tahminleri, anket verisi değil, ve Karpathy de bunları böyle sunuyor. Ama gönderinin Hacker News'te gördüğü ilgi, temel gözlemin yerini bulduğunu düşündürüyor: Karpathy'nin anlatısında bu anın tuhaflığı, tüm bu deneyimlerin aynı anda yaşanıyor olması.