deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak Hacker News – Front Page (native)

Şifreli Nvidia firmware'i Linux'ta RTX Spark dizüstü GPU'larını 780 MHz'e sabitliyor ve çıkarım hızını beşte bire düşürüyor

Linux, Nvidia'nın RTX Spark dizüstülerinde çalışıyor; ancak yalnızca Windows'a özel şifreli güç firmware'i GPU'yu AC güçte yaklaşık 780 MHz'e kilitliyor ve GPT-OSS-120B çıkarımını saniyede 65 token'dan 14 token'a düşürüyor.

Şifreli Nvidia firmware'i Linux'ta RTX Spark dizüstü GPU'larını 780 MHz'e sabitliyor ve çıkarım hızını beşte bire düşürüyor

Linux çalışıyor — ta ki fişi takana kadar

Hacker News'in ana sayfasına düşen MindStudio'nun uygulamalı raporu, Linux'un Nvidia'nın yeni RTX Spark dizüstülerine kurulup çalıştığını ortaya koyuyor — testlerde MSI Prestige N16 Flip AI Plus kullanılmış — Nvidia'nın açık kernel sürücüsüyle GPU hızlandırma, 120Hz'de 4K masaüstü ve yapılandırıldıktan sonra çalışan ses, klavye ve touchpad mevcut. Ciddi sorun güç adaptörü takıldığında ortaya çıkıyor: GPU, Windows'ta ulaştığı 2.2 GHz yerine yaklaşık 780 MHz'e kilitleniyor.

Söz konusu dizüstüler — MSI Prestige, Asus ProArt ve Dell XPS varyantları dahil — Nvidia'nın DGX Spark masaüstüyle aynı GPU tasarımını kullanıyor, 128GB'a kadar birleşik bellek konfigürasyonlarıyla ve Windows on ARM yüklü geliyorlar. vLLM ve SGLang dahil AI araç ekosistemünün büyük kısmı Linux öncelikli olduğu için alıcılar, performans kaybetmeden Linux'u yerel olarak çalıştırıp çalıştıramayacaklarını bilmek istiyor.

Benchmarklar ne gösteriyor

Rapora göre GPT-OSS-120B çalıştırmak Windows'ta saniyede 65.4 token, WSL altında 65.1 token üretirken, Nvidia'nın kendi Linux derlemini çalıştıran DGX Spark masaüstü 61'e ulaştı. Aynı dizüstüde yerel Linux yalnızca 13.9 tamamlayabildi; kabaca beş kat daha yavaş.

Fark başka yerlerde de tekrarlandı: vLLM ile sekiz eşzamanlı istemciye hizmet verirken WSL saniyede 127 token'a ulaşırken yerel Linux 39.5'te kaldı. Windows'un yaklaşık 2.2 GHz ile sekiz dakikada bitirdiği daha uzun bir işlemi, Linux GPU'nun boyunca 790 MHz civarında takılı kalmasıyla 37 dakikada tamamladı. Sıcaklıklar 40-47°C arasında kaldığından termal kısıtlama eleniyor — GPU'ya boost izni verilmemektedir.

Garip biçimde sorun güç kaynağına göre tersine dönüyor. Fişten çekilmişken Linux, LM Studio'da 1.800 MHz civarı saat hızlarıyla saniyede 61 ila 67 token üretti; priza takılıyken aynı test yaklaşık 15 token ve kabaca 780 MHz'e düştü.

Kök neden şifreli bir güç tablosu

Rapor davranışın kaynağını, CPU ile GPU arasındaki paylaşılan güç bütçesini yöneten ve yalnızca Windows'a özel bir bileşen olan Nvidia Platform Controllers and Framework'e bağlıyor — bu, masaüstü DGX Spark'ın aksine bir dizüstünün dengelemesi gereken bir şey. Bu denetleyiciyi Windows'ta devre dışı bırakmak Linux'taki yavaşlamayı neredeyse tam olarak yeniden üretti: saniyedeki token sayısı 83 civarından yaklaşık 31'e, saat hızları kabaca 2 GHz'den 786 MHz'e düştü. Yeniden etkinleştirmek hızı anında geri getirdi ve sorumlunun kernel, dağıtım ya da GPU sürücüsü değil bu denetleyici olduğunu doğruladı.

Daha derin sorun, firmware'in denetleyiciye şifrelenmiş bir güç ayarları tablosu teslim etmesi. Windows sürücüsü bunun şifresini çözebiliyor; Linux şu anda çözemiyor ve testler sırasında hiçbir yazılım çözümü başarılı olmadı — bir deneme kernel panic'e yol açtı. Windows sürücüsünden anahtarı çıkarmak yalnızca kırılgan, tek makineye özel bir hile olarak anıldı. Gerçek bir düzeltme, raporun vardığı sonuca göre, Nvidia'nın platform denetleyicisinin güç yönetimi mantığını Linux sürücüsüne taşımasını gerektiriyor.

Kurulum ve bellek sorunları

Linux'u makineye kurmak tak-çalıştır olmadı. Omarchy adlı Arch tabanlı dağıtım başlangıçta MSI biriminde titrek, kararsız bir görüntü verdi; Debian, kurulum programında Wi-Fi desteği olmadığı için USB Ethernet adaptörü gerektirdi ve vanilla bir kernel klavye, touchpad ve GPU'nun hiçbirini tanımadı. Kernel'ine Nvidia'nın açık sürücüsünü gömmüş olan Omarchy'ye dönmek bunu çözdü.

Ayrı bir baş ağrısı bellekti: firmware varsayılan olarak 128GB birleşik belleğin 96GB'ını GPU için ayırıyor ve bu paylaşımda değişiklik yapma ayarını yalnızca Windows sunuyor. Linux başlangıçta sadece 28GB gördü; Windows tarafındaki ayrılmış belleği 4GB'a düşürmek 120GB'ı serbest bıraktı.

Pratik çözüm olarak WSL

Şimdilik WSL mantıklı bir orta yol: Windows sürücü yığınını kullanıyor, prizde de pilde de tam GPU boost'unu korurken vLLM ve SGLang gibi Linux öncelikli araçları çalıştırmaya devam ediyor. 128GB'lık bir makinede büyük model iş yükleri için varsayılan 14GB bellek ayrımının yükseltilmesi gerekiyor.

Neden önemli

Bu, Nvidia'nın en yeni ARM tabanlı dizüstülerinde yerel AI çalıştıran herkes için sayısal olarak ortaya konmuş bir donanım sınırlaması. Kritik platform firmware'i şifreliyken ve yalnızca Windows tarafından okunabilirken açık bir GPU sürücüsü tek başına yetmiyor — bu yüzden AI geliştiricilerine pazarlanan bir makine, Nvidia düzgün bir düzeltme yayınlamadan yerel Linux'ta Windows çıkarım hızının beşte birine ulaşamıyor. O ana kadar Linux öncelikli araçlara bel bağlayan ekipler, doğrudan kurulum yerine WSL etrafında plan yapmalı.

  • #nvidia
  • #linux
  • #gpu
  • #ai-hardware
  • #inference

İlgili yazılar