· kaynak dev.to (home feed)
Açık kaynaklı coresample, sinir ağı yürütmesini RISC-V pipeline duraklamalarına kadar izliyor
Bir geliştirici, int8 bir CNN'in model kodundan Rust simülatörü ve RV32IM derleyicisi üzerinden özel bir RISC-V çekirdeğindeki cycle düzeyinde pipeline duraklamalarına kadar izleyen coresample araç zincirini açık kaynak yaptı.

Model kodundan donanıma uzanan bir iz
Bir geliştirici, bir sinir ağının yürütülmesini üst düzey model kodundan, özel bir RISC-V işlemcide neden olduğu belirli pipeline duraklamalarına kadar takip eden açık kaynaklı bir proje olan coresample'u yayınladı. dev.to'da zalaso takma adıyla yazan yazar, çalışmayı yanıltıcı derecede basit bir soruya verilen bir yanıt olarak çerçeveliyor: Bir ağ CPU üzerinde çalışırken hesaplama döngüleri tam olarak nereye gidiyor?
Mevcut araçlar neden yetersiz kaldı
Gönderiye göre eldeki seçenekler soruna uymuyordu. Geleneksel profiler'lar genellikle yazılım sınırında duruyor ve işlemcinin içinde ne olduğunu gizliyor; donanım simülatörleri ise çoğunlukla sorgulanması zor, opak kutular olarak çalışıyor. Yazarın istediği, beş aşamalı bir pipeline üzerinde çalışan nicemlenmiş (quantized) bir evrişimli ağa yönelik komut düzeyinde görünürlüktü; bu görünüm, mevcut tek bir aracı enstrümante etmek yerine yığının her katmanını kontrol etmeyi gerektiriyordu.
Proje neler içeriyor
Coresample, modelden silisyuma uzanan tam yolu birlikte kapsayan dört bileşenden oluşuyor:
- Model katmanı: Rust ile yazılmış, int8 evrişimli sinir ağları için bir simülatör.
- Derleyici: Ağın işlemlerini RV32IM komutlarına — çarpma ve bölme uzantılarına sahip 32 bit RISC-V temel tamsayı kümesine — çeviren bir araç.
- CPU: SystemVerilog ile gerçekleştirilmiş bir RISC-V çekirdeği.
- İnceleyici: Yürütme izini görselleştiren ve gönderiye göre tek bir cycle'ı bile hesaba katan tarayıcı tabanlı bir görüntüleyici.
Doğrulanabilirlik üzerine kurulu
Merkezi bir tasarım teması, her parçanın bağımsız olarak denetlenebilmesi. dev.to gönderisi, işlemci çekirdeğinin Spike — referans RISC-V ISA simülatörü — ile doğrulandığını ve riscv-tests ile riscv-arch-test paketleriyle geçerlendiğini belirtiyor. Ağ simülatörü, çıktılarının PyTorch sonuçlarıyla eşleştirilmesiyle denetleniyor; derleyici ise ürettiği komutların modelin katmanlarına doğru şekilde eşlenmesi gerekliliğine tabi tutuluyor. Bir gösterim olarak yazar, 48 görüntü üzerinde çalışan int8 bir CNN'in eksiksiz izine işaret ediyor; pipeline duraklamalarının konumları inceleyicide görülebiliyor.
Yol haritası
Gönderiye göre sonraki adım, simülatöre GPT tarzı bir transformer bloğu eklemek ve aynı pipeline üzerinden token düzeyinde izleme yapmak. Yazar ayrıca bilgisayar mimarisi, RISC-V ve donanım-yazılım ortak tasarımı (co-design) alanında çalışanların geri bildirimlerini davet ediyor; depo, simülasyonları kendisi çalıştırmak isteyen herkese açık.
Neden önemli
Makine öğrenmesi performans çalışmaları çoğunlukla iki uçtan birinde gerçekleşir: operatör zamanlarını raporlayan çerçeve düzeyinde profilleme veya yavaş olan ve model koduna geri bağlanması zor olan tam çip simülasyonu. Coresample bu ikisi arasındaki zemini dolduruyor ve tek bir ağın aritmetiğini, belirli bir komut dizisinin neden olduğu duraklamaya kadar somut işlemci davranışına bağlıyor. Donanım-yazılım ortak tasarımı yapan mühendisler için, özellikle küçük çekirdeklerdeki uç çıkarım (edge inference) bağlamında, bu bağlantıyı kurmak işin en zor kısmıdır.
Proje ayrıca RISC-V'nin açıklığının pratikte neden önemli olduğunu gösteriyor. Özel bir çekirdek inşa etmek, onu standart Spike referansına ve mimari test paketlerine karşı doğrulamak ve tüm zinciri yayımlamak bireysel bir geliştirici için yapılabilir; bu, tescilli bir ISA'da çok daha zor olurdu. Planlanan transformer izleme yaklaşımı, mevcut ML sistemlerinde öne çıkan iş yüklerine genişletecek; dikkat (attention) ve token işleme bir pipeline'ı evrişimli bir ağdan oldukça farklı şekilde zorlayabilir ve tamamen yeni bir darboğaz seti ortaya çıkarabilir.
- #risc-v
- #machine-learning
- #open-source
- #profiling
- #hardware