deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak The Verge

Nvidia'nun PAIR'ı boşta duran ev bilgisayarlarını birleştirilmiş yerel yapay zeka inference kümesine dönüştürüyor

Nvidia'nın ücretsiz ve açık kaynaklı Personal AI Router'ı, RTX veya Apple silikonlu boşta duran Windows, Linux ve macOS makinelerini birleştirerek Ollama ve LM Studio gibi araçlar için yerel yapay zeka inference'ı havuzluyor.

Nvidia'nun PAIR'ı boşta duran ev bilgisayarlarını birleştirilmiş yerel yapay zeka inference kümesine dönüştürüyor

PAIR aslında nedir

Nvidia, evdeki bilgisayarları yerel yapay zeka inference için paylaşılan bir kaynakta birleştiren Personal AI Router ya da kısaca PAIR adlı ücretsiz, açık kaynaklı bir araç yayınladı. İsminin aksine PAIR, The Verge'un haberine göre bir ağ donanımı değil; yerel ağdaki uyumlu makineleri keşfeden, bunları birbirine bağlayan ve Ollama ve LM Studio gibi popüler yerel model araçlarıyla iş yükleri çalıştırmaya hazırlayan bir yazılım.

Donanım desteği oldukça geniş. The Verge'a göre PAIR, RTX 20 serisi ve sonrası Nvidia GeForce kartlarıyla, ayrıca RTX Pro GPU'lar ve DGX Spark sistemleriyle çalışıyor. Apple makineleri de M4 yonga veya daha yenisine sahip oldukları sürece bu kapsama giriyor. Beta sürümü Windows, Linux ve macOS için sunuluyor.

Boşta duran makineleri nasıl birleştiriyor

Temel fikir, aksi halde kullanılmadan duran işlem gücünden yararlanmak. PAIR, bağlı her sistemden yalnızca boşta olduğu anda yararlanıyor; böylece başka bir iş için gereken bir makine, devam eden işleri bozmadan havuzdan çıkabiliyor. The Verge, Nvidia'nun sistemcihazlar ağa katılıp ayrıldıkça — bir aile masaüstünde biri oyun başlattığında bile — uyum sağladığını söylediğini aktarıyor.

İş, bağlı makineler arasında paralel olarak dağıtılıyor; Nvidia'ya göre bu yaklaşım, karmaşık bir görevin birçok küçük işe bölündüğü agentic iş akışlarına uygun. Bu işlerin tek bir kart yerine birkaç GPU'ya yayılması, tek kartın oluşturacağı darboğazı aşmayı hedefliyor.

Avantajı örneklemek için Nvidia ürün yöneticisi Seth Schneider, The Verge'un aktardığı bir basın brifinginde azami bir ev senaryosu anlattı: bir RTX dizüstü, bir DGX Spark masaüstü, bir RTX 5090 dizüstü, bir oyun bilgisayarı ve bir MacBook Pro içeren böyle bir evde yaklaşık 165 teraflop kullanılmayan işlem gücü bulunuyor. Ortalama bir Amerikan evindeki elektrik maliyetleri hesaba katıldığında bile buna "bugün evlerde duran bedava token hazinesi" dedi. Daha gerçekçi bir şekilde Schneider, Nvidia'nun çoğu PAIR kullanıcısının bir MacBook ya da Windows dizüstü artı bir oyun bilgisayarına sahip olmasını beklediğini söyledi.

Güvenlik ve kullanılabilirlik

Cihazlar altı haneli bir kodla eşleştiriliyor; The Verge'a göre bunun ardından aralarındaki trafik karşılıklı TLS ile korunarak iki yönde de güvenilen şifreli bir kanal oluşturuluyor. PAIR beta sürümü şu anda kullanılabilir durumda.

PAIR'ın yanı sıra Nvidia, üç yapay zeka ajan uygulamasının — Perplexity Portable Computer, Hermes Agent ve OpenClaw — Nvidia GPU'lu Windows makinelerinde basitleştirilmiş yerel kurulum sunacağını, böylece yerel ajanları çalıştırmak için gereken manuel yapılandırmanın birkaç tıklamaya indiğini duyurdu.

Neden önemli

Yerel inference normalde elinizdeki tek makineyle sınırlıdır. PAIR, evi küçük bir küme olarak yeniden çerçeveliyor: halihazırda bir oyun bilgisayarı ve modern bir dizüstü bilgisayara sahip olan herkese, cloud token ödemeden daha büyük iş yüklerine veya daha fazla paralel agentic işe giden bir yol sunuyor. Çevresindeki adımlar — Ollama ve LM Studio entegrasyonu, tek tıkla ajan kurulumları — Nvidia'nın GPU tabanlı yerel yapay zekayı bir cloud servisi kadar sorunsuz hissettirmek istediğini gösteriyor.

Uyarılar da gerçek. Uyumlu ve makul ölçüde güncel donanıma ihtiyacınız var, boşta duran makineler ancak enerji hesabı tutuyorsa toplamaya değer ve yeni bir dağıtık sistemin betası güvenilirliğini kanıtlamak için zamana ihtiyaç duyacak. Ancak ücretsiz ve açık kaynaklı bir sürüm olarak PAIR, evdeki boşta duran silikonu kullanılabilir işlem gücüne dönüştürmek isteyen meraklılar için eşiği düşürüyor.

  • #nvidia
  • #local-ai
  • #open-source
  • #gpu
  • #llm-inference

İlgili yazılar