deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak Hacker News – Front Page (native)

Aynı H100 çipi bulutlar ve neocloud'lar arasında saatte 2,69 ile 12,29 dolar arasında kiralanıyor

AWS, Azure ve neocloud'lar arasında yapılan bir on-demand fiyat karşılaştırması, aynı H100 SXM 80GB'ın GPU-saati başına 2,69 ile 12,29 dolar arasında kiralandığını ortaya koyuyor — aradaki 4,57 katlık farkın nedeni kısmen interconnect ve SLA'lar, yalnızca kâr marjı değil.

Aynı H100 çipi bulutlar ve neocloud'lar arasında saatte 2,69 ile 12,29 dolar arasında kiralanıyor

GitHub'daki data-receipts deposunda yayınlanan ve 9 Kasım'da Hacker News ana sayfasında öne çıkan bir GPU fiyat analizi, AWS, Azure ve daha küçük "neocloud" sağlayıcıları arasındaki on-demand kiralama ücretlerini normalleştiriyor ve tüm fiyatları GPU-saati başına dolar cinsinden ifade ediyor. Analizin çarpıcı sonucu şu: aynı H100 SXM 80GB çip bir yerde saatte 2,69 dolar, başka bir yerde 12,29 dolara kiralanıyor; yani aynı silikon için en ucuz ve en pahalı seçenek arasında 4,57 katlık bir fark var.

Fiyat tablosu

H100 SXM 80GB grubu için analiz şu rakamları raporluyor:

Sağlayıcı ve SKU GPU-saati başına $ 730 saatlik bir ay
RunPod Community $2,69 $1.964
RunPod Secure $3,99 $2.913
AWS p5.48xlarge $6,88 $5.022
Azure ND96isr_H100_v5 $12,29 $8.972

Data-receipts verilerine göre, bir ay boyunca kesintisiz çalıştırıldığında tek bir GPU'nun maliyeti yalnızca nereden kiralandığına bağlı olarak 1.964 ya da 8.972 dolar oluyor.

Yalnızca aynı çipler karşılaştırılıyor

Analiz, GPU modeline ve bellek boyutuna göre sıkı bir şekilde gruplandırıyor; çünkü bir H100 aslında üç farklı ürün: SXM 80GB, PCIe 80GB ve NVL 94GB varyantları. Bunların hepsi H100 olarak pazarlanıyor ama fiyatları aynı değil. Yazar, hepsini tek bir grafikte birleştirmenin var olmayan bir fiyat farkı yaratacağını belirtiyor.

Aynı disiplin tek bir sağlayıcının içinde de geçerli. Azure, aynı A100 PCIe 80GB'yı sanal makine başına bir, iki ve dört GPU seçenekleriyle GPU-saati başına sırasıyla 3,67, 4,78 ve 4,78 dolara listeliyor; karşılaştırma bu yüzden her sağlayıcının belirli bir GPU'ya ulaşmanın en ucuz yolunu alıyor ve bir sağlayıcı içi farkı asla pazar farkı olarak saymıyor. RunPod'un Secure ve Community katmanları ise tek bir şirket olarak değerlendiriliyor.

4,57 katlık farkın ne olmadığı

Analize göre bu fark salt kâr marjı değil. RunPod Community'den kiralamak, Azure'nin ND serisi yerine seçmek yerine, birkaç şeyden vazgeçmek anlamına geliyor:

  • Azure'nin ND SKU'su GPU başına GPU Direct RDMA destekli 400 Gbps Quantum-2 InfiniBand sunuyor; çok düğümlü eğitimi pratik kılan interconnect bu ve ND SKU'sunun Azure'nin kendi tek H100'lik NC SKU'sundan (6,98 dolar) pahalı olmasının nedeni de bu.
  • RunPod Community, kendi donanımını kiraya veren üçüncü taraf sunuculardan oluşuyor; veri merkezi SLA'sı yok.
  • Kurumsal uyumluluk, taahhüt edilen kapasite ve hyperscaler hizmet yüzeyinin geri kalanı ucuz satırlarda bulunmuyor.

Pratikteki ödünleşim iş yükünün şekline bağlı: tek düğümde model ince ayarı yapan biri, hiç kullanmayacağı interconnect için para ödüyor; 64 düğümde eğitim yapan biri ise ucuz satırı hiç düşünemiyor.

Yöntem ve sınırlılıklar

Temeldeki scriptler, kimlik doğrulama gerektirmeyen AWS Price List ve Azure Retail Prices API'lerinden veri çekiyor; neocloud fiyatları ise elle, kaynak URL'si ve okunduğu tarihle birlikte kaydedilmiş. Yazar birkaç uyarı sıralıyor:

  • Yalnızca on-demand liste fiyatları karşılaştırılıyor. Reserved, taahhütlü kullanım ve spot fiyatlandırma hyperscaler rakamlarını düşürürdü; spot fiyatlar özellikle farkı ciddi ölçüde daraltırdı.

  • Her hyperscaler tek bir bölgede ölçülüyor: AWS us-east-1 ve Azure eastus.

  • GPU sayıları fiyat etiketlerinden değil sağlayıcı dokümantasyonundan geliyor; çünkü AWS bir p5 instance'ı için yalnızca toplam "640 GB HBM3" rakamını raporluyor ve Azure da toplam hızlandırıcı belleğini bildiriyor.

  • Lambda, yayınlanan ücretleri 16 Kasım 2026'da yürürlüğe gireceği ve güncel ücretlerinin bir girişin arkasında olduğu için çarpıcı sonuçtan hariç tutulmuş; satırları ayrı gösterilip etiketlenmiş.

  • Kullanılabilirlik fiyata dahil değil; dolayısıyla fiilen rezerve edilemeyen ucuz bir H100, bir maliyet olarak görünmüyor.

Neden önemli

GPU hesaplama gücü için bütçe yapan herkes, nominal olarak aynı silikonda 4,5 katlık bir farkla karşı karşıya; bu veri seti hem tabanın nerede olduğunu hem de pahalı satırların gerçekte ne satın aldığını gösteriyor. Ucuz neocloud seçenekleri yalnızca community düzeyinde barındırmayı tolere eden tek düğümlü iş yükleri için gerçekten seçenek olurken, çok düğümlü eğitim fiilen birden fazla kat pahalı InfiniBand donanımlı SKU'ları gerektiriyor. Bu analiz ayrıca her GPU fiyat karşılaştırmasında SKU temizliğini kontrol etmeyi hatırlatıyor: SXM, PCIe ve NVL varyantlarını karıştıran, spot fiyatlandırmayı yok sayan ya da kullanılabilirliği atlayan grafikler, bir işin gerçek maliyetini ciddi şekilde yanlış gösterebilir.

  • #gpu-pricing
  • #cloud-costs
  • #h100
  • #aws
  • #azure
  • #neoclouds

İlgili yazılar