deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak dev.to (home feed)

SpatialOPSD, derinlik tabanlı uzamsal akıl yürütmeyi yalnızca RGB kullanan vision-language modellerine damıtıyor

Bir self-distillation yöntemi, eğitim sırasında vision-language modeline ayrıcalıklı depth-agent izlerini besliyor ve modele, araç kullanan bir öğretmenin uzamsal doğruluğunun %91'ini tek bir araçsız forward pass ile yakalama imkanı sağlıyor.

SpatialOPSD, derinlik tabanlı uzamsal akıl yürütmeyi yalnızca RGB kullanan vision-language modellerine damıtıyor

Araç çağrıları olmadan damıtılmış uzamsal akıl yürütme

SpatialOPSD adlı bir yöntemin geliştiricileri, yalnızca sıradan RGB görüntüleri gören bir vision-language modelinin, daha yavaş ve araçlara bağımlı bir öğretmenin uzamsal akıl yürütmesinin büyük kısmını özümseyebildiğini bildiriyor. "SpatialOPSD: Self-Distilling Spatial Intelligence from Verified Coding Agent Traces" adlı makaleyi özetleyen bir dev.to yazısına göre, damıtılmış model tek bir forward pass ile yanıt veriyor, harici bir depth sensörüne veya ek API çağrılarına ihtiyaç duymuyor ve öğretmenin ölçülen performansının %91'ini koruyor — öğretmen SpatialClaw'ın 57,3 puanına karşılık 51,9 puan.

Kapatmaya çalıştığı boşluk

Multimodal modellere daha iyi uzamsal anlayış kazandırma çabalarında daha önce uzamsal kodlama ajanlarına başvuruldu: modelin danışabileceği doğrulanmış yürütme izleri üreten harici araçlar. Yazının belirttiği üzere, her iz birden fazla API çağrısına mal oluyor ve bu da yaklaşımı gecikmenin önemli olduğu her yerde kullanımı zorlaştırıyor. Yazıya göre, düz ince ayar (fine-tuning) ve GRPO gibi reinforcement-learning şemaları geometriyi içselleştirmede başarısız oldu; çünkü model eğitim sırasında ayrıcalıklı derinlik bilgisini hiç görmedi — yalnızca onun sonuçlarını gördü.

İzleri ayrıcalıklı girdi olarak beslemek

SpatialOPSD'nin hamlesi, öğrenci modelin öğretmenin gördüğünü görmesine izin vermek — ama yalnızca eğitim sırasında. Özetlenmiş ajan izleri, on-policy self-distillation sırasında ayrıcalıklı girdiler olarak sunuluyor; böylece öğrenci, gerçek derinlik kaynaklı akıl yürütmeye dayanan bir uzamsal düşünce zinciri öğreniyor. Çıkarım (inference) anında bu girdiler kayboluyor, ancak akıl yürütme kalıcı oluyor: model uzamsal akıl yürütmeyi yalnızca RGB piksellerinden, döngüde hiçbir araç olmadan ve harici çağrılardan kaynaklanan neredeyse hiçbir runtime ek yükü olmadan yeniden üretiyor.

Bildirilen sayılar

  • Yazıya göre, Qwen3.5-9B temel çizgisi SpatialOPSD ile 45,9'dan 51,9'a yükseliyor.

  • Kazanımlar özellikle allocentric dönüşümlerde yoğunlaşıyor; "Among" görevi 11,7 puan iyileşme gösteriyor.

  • Birden fazla benchmark'ta damıtılmış model, uzamsal ve dağıtım dışı (out-of-distribution) veri kümelerindeki ortalama doğrulukta hem SFT'yi hem GRPO'yu geçiyor — bu da yeteneğin göreve özgü bir hile olarak değil, genelleştiğinin kanıtı olarak yazıda gösteriliyor.

Yazarların belirttiği uyarılar

Yazı zayıf noktalar hakkında açık sözlü. Ayrıcalıklı bilgi sızıntısı hâlâ açık bir sorun ve yalnızca kısmen, maskelemeyi unlikelihood regularization ile birleştiren Repetition-Aware Distillation ile ele alınıyor. Öğretmene karşı var olan %9'luk fark, ölçeklendirme veya daha sıkı sızıntı kontrolü konusunda daha fazla çalışma gerektiğine işaret ediyor. Yazarlar, daha büyük modellerin bu farkı kapatabileceği olasılığını dile getiriyor ancak deneysel kanıtın hâlâ eksik olduğunu kabul ediyorlar.

Neden önemli

Sonuç iki düzeyde önemli. Pratikte, sayılar laboratuvar dışında da tutarlıysa, yinelemeli ve araç bağımlı uzamsal pipeline'lar çalıştıran ekipler bunların yerine damıtılmış, yalnızca RGB kullanan bir model koyabilir ve VSI-Bench üzerinde gecikme bütçelerini yeniden hesaplayabilir; yazının beklentisi, başarı oranları özgün öğretmene yakın kalırken yürütme süresinde %90'ın üzerinde bir azalma. Robotik, embodied agent'lar ve cihaz üstü multimodal sistemler için, birkaç doğruluk puanını neredeyse tüm harici çağrı ek yükünden kurtulmaya dönüştürmek cazip bir takas.

Metodolojik olarak SpatialOPSD daha geniş bir şablon öneriyor: Bir yetenek eğitim sırasında ayrıcalıklı bilgiyle üretilebiliyor ama çıkarım anında bu bilgi olmadan sunulması gerekiyorsa, on-policy self-distillation SFT ve reinforcement learning'in kaçırdığını yakalayabilir. Derinlik buradaki gösterim vakası ve aynı örüntünün, şu anda bir modelin inference döngüsü içinde yer alan diğer maliyetli bileşenlere — sensörler, retriever'lar, simülatörler — makul biçimde genişletilebileceği düşünülebilir.

  • #spatial-reasoning
  • #vision-language-models
  • #knowledge-distillation
  • #multimodal-ai