Arch Linux maintainer'ı ASUS ProArt RTX dizüstünde tam CUDA ve 116 GiB birleşik belleği çalıştırdı

Hacker News'in ana sayfasına düşen, bir Arch Linux paket maintainer'ının el yazması anlatımı, tam çalışan bir Arch kurulumunu ASUS ProArt P16 H7607BA'ya — 128 GB RAM'e, 6.144 CUDA çekirdeğine, 2 TB SSD'ye ve 20 çekirdekli N1X işlemciye sahip RTX Spark sınıfı bir dizüstü bilgisayara — taşıma sürecini adım adım anlatıyor. josie.lol'daki gönderiye göre motivasyon basitti: yazarın bir Microsoft hesabı yok ve istemiyor; Windows kurulumundaki gizlilik tavizleri ve yerleşik reklam gibi sorunları gerekçe gösteriyor.

Port nasıl çalışıyor

Hugging Face'te GGGF quantisation'ları da yayınlayan yazar, Arch paketlerini ARM'a taşıyan ayrı proje olan Arch Linux ARM'dan yola çıktı ve üzerine donanım desteğini ekledi. NVIDIA'nın Ubuntu için çekirdek çalışması bir temel oluşturdu; yazar buradan yola çıkarak çalışır bir konsol için gereken ACPI override tahsisini ve framebuffer eşlemesini düzeltti, ACPI override'ları dizüstünün kendi firmware tablolarından türetti.

Klavye girdisi yamalanmış bir hid-asus driver gerektirdi, ses için özel bir machine driver yazıldı ve ASUS hoparlör firmware'ı ASUS'un kendi driver paketinden yerel olarak çıkarıldı. Her şey önyüklenebilir bir USB imajında birleştirildi ve donanım desteğini otomatik kurması için Archinstall 4.5 genişletildi. Derleme girdileri hash ile sabitlenmiş, donanım paketleri yazarın Arch Linux Package Maintainer anahtarıyla imzalanmış ve ACPI override'ları dizüstünün kendisinden gelmiştir.

Tamamlanan sistem 3840 x 2400 ekranı 120 Hz'de sürüyor; NetworkManager, PipeWire ve NVIDIA CDI ile rootless Podman kullanılıyor. Çekirdek, NVIDIA driver'ı, güç yönetimi ve firmware paketleri IgnorePkg ile geri tutulurken, normal paketler Arch Linux ARM'dan güncellenmeye devam ediyor.

CPU performansı kabaca Windows seviyesinde

Kıyaslama testleri 19 Ekim'de, 7.0.0-1022-nvidia çekirdeği ve 615.78.08 NVIDIA driver'ıyla, performans profilinde prize takılıyken, sabit 32 MiB sözlükle native ARM64 7-Zip 26.04 kullanılarak yapıldı — her thread sayısı için bir ısınma ve üç ölçüm turu, medyan değerler raporlandı.

StorageReview'ın aynı 20 çekirdekli N1X ile Windows çalışan HP OmniBook Ultra 16 için verdiği sayılarla karşılaştırıldığında, tek thread sonuçları fiilen berabere kaldı; Linux kurulumu 20 thread'in tamamında sıkıştırmada yaklaşık %5, açmada %3 öndeydi. Yazar, StorageReview'ın 7-Zip sürümünü veya sözlük boyutunu belirtmediğini, dolayısıyla bunun iki dizüstü kurulumunu karşılaştırdığını, işletim sistemlerini yalıtık olarak değil, not ediyor.

ComputerBase'ın Windows tabanlı ProArt P16'sı GIPS'e çevrildiğinde 155.774 puan aldı; yazarın üç koşudan medyanı 155.759 ile 157.193 aralığında olmak üzere 157.084'tü — ancak o makinede 64 GB konfigürasyon vardı ve 7-Zip 26.00 çalışıyordu, sözlük boyutu belirtilmemişti.

Üç yerine tek bellek havuzu

Daha büyük fark bellekte. Linux altında hem işletim sistemi hem CUDA aynı fiziksel havuzdan 116.0 GiB görüyor. Windows ise RAM'i dedicated GPU, paylaşılan ve yalnızca-CPU bölgelerine ayırıyor; CPU iş yükleri dedicated bölgeye dokunamıyor, GPU tahsisleri de yalnızca-CPU bölgesini kullanamıyor. Frandroid'in 91 GiB dedicated rezervasyonlu 128 GB ProArt'ı, paylaşılan bellek dahil toplam 109.7 GiB CUDA raporladı — Linux'tan yaklaşık 6.3 GiB daha az — ve rezervasyonu değiştirmek yeniden başlatma gerektiriyor. Linux'ta tüm havuz CPU işlerine de açık kalıyor; ne bir kaydırıcı var ne de iş yükleri arasında yeniden başlatma.

Yerel Qwen çıkarımı

Yazar, NVIDIA'nın Qwen3.8-Flash-Next-FP4-Local checkpoint'ini native ARM64 container'da B12X CUDA kernel'larıyla vLLM üzerinden, karışık quantisation ve FP8 KV cache kullanarak, thinking kapalıyken çalıştırdı. Model yüklemesi 68.2 GiB, KV cache ise 21.1 GiB daha aldı — bir dizüstünde yaklaşık 90 GiB taahhüt — ilk istekten önce kabaca 16 dakikalık yükleme ve derleme süresinin ardından.

Yaklaşık 10.000 girdi token'lı bir olay günlüğü görevi, doğru isteği, nedeni ve sonraki adımı 6 saniyenin altında döndürdü; bekleme süresinin çoğunluğunu prompt işleme oluşturdu. Kod incelemesi üretimi saniyede yaklaşık 30 token ile sonuçlandı; bu, Frandroid'in aynı modeldeki Windows koşusuyla karşılaştırılabilir — ancak prompt'lar, quant'lar, runtime'lar, bağlam sınırları (orada 262.144, burada 32.768 token) ve zamanlama yöntemleri farklıydı, dolayısıyla bu da işletim sistemini yalıtmak yerine iki çalışan kurulumu karşılaştırıyor. Dört kod incelemesinden oluşan bir grup, toplam saniyede 86.6 çıktı token'ıyla medyan 5.314 saniyede tamamlandı. On dakikalık bir dayanıklılık testi 150 isteği tamamladı — her görevden 50'şer — ve tüm yanıtlar doğrulamadan geçti; medyan yanıt süreleri kod incelemesi için 4.036 s, günlük görevi için 5.921 s ve çıkarma için 2.046 s oldu, ilk ve son tekrarlar arasındaki sapma %1.6'nın altındaydı. Ölçülen 171 yanıtın tamamı kontrollerinden geçti.

Neden önemli

RTX Spark sınıfı dizüstüler taşınabilir yerel yapay zekâ makineleri olarak pazarlanıyor, ancak resmi destek yalnızca Windows'a ait ve Windows kurulumu kullanıcıları fiilen bir Microsoft hesabına itiyor — bu projeyi tetikleyen tam da bu sürtünmeydi. Port, donanımın Linux'tan rekabetçi CPU performansıyla tamamen kullanılabilir olduğunu ve bellek modelinin yerel model çalışması için tartışmalı biçimde daha uygun olduğunu gösteriyor; tek birleşik havuz, Windows'un GPU bellek rezervasyonunun iş yükleri arası yeniden başlatma maliyetini ortadan kaldırıyor. Yamalar imzalı, hash ile sabitlenmiş ve cihazın kendi tablolarından türetilmiş olduğu için, bu sınıf makinelerde yalnızca Linux iş akışı isteyen geliştiricilere yeniden üretilebilir bir yol sunuyor.