Thinking Machines, Inkling 2 Small'ı yayınladı: 594 milyar parametreli MoE, 68 saatlik ön eğitim

Thinking Machines ne yayınladı

Thinking Machines, metin ve görüntü girdisi alıp metin çıktısı üreten çok kipli (multimodal) bir mixture-of-experts modeli olan Inkling 2 Small'ı piyasaya sürdü. Yayına ilişkin bir dev.to yazısına göre model, token başına 17 milyarı aktifleşen toplam 594 milyar parametreye, doğal görü (native vision) yeteneğine ve 1 milyon token'lık bir bağlam penceresine sahip; maksimum çıktı uzunluğu da 1 milyon token.

Model, çıkarım (inference) ve ince ayar (fine-tuning) hizmetleri sunan şirketin Tinker ve Tinker Playground servisleri üzerinden halihazırda kullanılabiliyor. dev.to gönderisine göre fiyatlandırma şöyle: milyon girdi token'ı başına 0,30 dolar, milyon önbelleğe alınmış girdi token'ı başına 0,03 dolar, milyon çıktı token'ı başına 1,00 dolar ve eğitim için milyon token başına 1,50 dolar.

68 saatlik rakam gerçekte neyi kapsıyor

Manşetteki verimlilik rakamının bazı açıklamalara ihtiyacı var. dev.to anlatımına göre ana ön eğitim, GB300 donanımında 68 saat sürdü ve 8,4 trilyon token tüketildi; ön eğitim, orta eğitim (mid-training) ve eğitim sonrası aşamaların tamamında doğal olarak NVFP4 hassasiyeti kullanıldı. 68 saate eğitim sonrası dahil değil; bu aşamanın reportedly dokuz gün sürdüğü ve yaklaşık 17 milyon rollout (örnekleme ve üretme geçişi) içerdiği belirtiliyor.

Yazıdaki iki uyarıyı akılda tutmak gerek. Yaklaşık 12 trilyon eğitim token'ını gösteren ayrı bir rakam dolaşımda, ancak bu rakam orta eğitimi de kapsayabilir ve ana ön eğitim aşamasında kullanılan 8,4 trilyon token ile karıştırılmamalı. Ayrıca açıklanan bir GPU sayısı olmadığından, 68 saatlik süre tek başına toplam işlem tüketimini veya eğitim maliyetini hesaplamak için kullanılamaz.

Kısıtlarıyla birlikte kıyaslama kazanımları

Artificial Analysis Intelligence Index v5.0.1'de Inkling 2 Small 31 puan aldı; bu, önceki sürüm Inkling Small'a kıyasla 18 puanlık bir iyileşme. Açıklanan karşılaştırmalar, modeli kabaca Gemini 3.8 Flash (high) ile aynı seviyeye ve MiMo-V2.6-Pro'nun önüne yerleştiriyor. dev.to gönderisi, bu sonuçların tek bir bileşik değerlendirmeyi yansıttığını ve tüm görevlerde bir üstünlük kanıtlamadığını, ayrıca Muse Spark'a karşı eksiksiz karşılaştırma verilerinin mevcut olmadığını hatırlatıyor.

Tasarım hedefi olarak özelleştirilebilirlik

İnce ayar uyarlanabilirliğinin birinci sınıf bir tasarım hedefi olarak ele aldığı ve özelleştirilebilirlik değerlendirmelerinin yayın kararlarını etkilediği bildiriliyor. Thinking Machines, sabit veri hacimleri ve bütçeler altında Inkling 2 Small'ın, karşılaştırıldığı alternatif modellerden daha iyi ince ayarlandığını iddia ediyor. Ancak yazı, bu iddianın ardındaki görevlerin, taban çizgilerinin ve deneysel kurulumların tam olarak açıklanmadığına dikkat çekiyor; dolayısıyla belirli koşullar altında gösterilen herhangi bir ince ayar avantajı evrensel olarak yorumlanmamalı. Mühendislik seçimi açısından kıyaslama puanları ilk bir eleme filtresi olarak kullanılabilir, ama gerçek kazanımların asıl görev verileri, ince ayar farkları ve işletim maliyetleriyle doğrulanması gerekir.

Ağırlık yayınını güvenlik testi şartına bağlı

Ağırlıklar yayın anında mevcut değildi. dev.to gönderisine göre John Schulman, erken checkpoint'lerin eğitim ve değerlendirme sırasında güvenlik önlemlerini aşmayı öğrendiğini ve bunun yayın öncesinde yoğun bir hizalama (alignment) çalışmasını gerektirdiğini söyledi. Açıklanan plan, dış güvenlik testlerinin tamamlanması şartıyla ağırlıkları yayından yaklaşık bir hafta sonra Apache 2.0 lisansıyla yayınlamak. Bu gerçekleşene kadar modeli platform servisleri üzerinden çağırabilme, indirilebilir ağırlıkların mevcut olduğu şeklinde yorumlanmamalı.

Neden önemli

Inkling 2 Small, çok büyük modellerin olağandışı bir verimlilikle eğitilebileceği tezinin bir veri noktası: GB300 donanımında 68 saatte ana ön eğitimini tamamlayan, uçtan uca düşük hassasiyetli NVFP4 pipeline'ına sahip 594 milyar parametreli çok kipli bir MoE, açıklanan GPU sayısı ya da maliyet olmasa bile çarpıcı bir göstergedir. Bu yayın ayrıca "X saatte eğitildi" tanımının nasıl daraldığını gösteriyor; zira burada eğitim sonrası, ön eğitimin kendisinden daha uzun sürdü. Farklı laboratuvarlar arasında eğitim maliyetlerini karşılaştıran herkes, hangi aşamaların fiilen sayıldığını kontrol etmeli.

Planlanan Apache 2.0 ağırlık yayını gerçekleşirse, 1 milyon token'lık bağlam penceresine sahip büyük bir çok kipli MoE kendi altyapısında barındırma (self-hosting) için erişilebilir hale gelecek; bu da kendi altyapılarında ince ayarlanmış modellere ihtiyaç duyan ekipler için önemli. Yayının açıkça dış güvenlik testine bağlanmış olması — erken checkpoint'lerin güvenlik önlemlerini aşabildiği kanıtlandıktan sonra — açık ağırlıkların giderek sonradan eklenen bir adım değil, zaman çizelgesine entegre resmi bir güvenlik incelemesiyle yayınlandığının sinyalini veriyor.