LLM API fiyat araştırması: aynı medyanlar, ancak bazı modeller sağlayıcıya göre 33 kat daha pahalı

LLM piyasasında bir fiyat paradoksu

dev.to'da yayımlanan bir karşılaştırma, 4.033 modeli kapsayan 137 inference sağlayıcısındaki API fiyatlandırmasını inceledi ve ardından odusunu, en az iki sağlayıcı tarafından sunulan ve milyon başına token girdi ücretleri doğrudan karşılaştırılabilen 375 modele daralttı. Sonuç, aynı anda hem katı hem de çarpıcı biçimde düzensiz görünen bir piyasa. Bu 375 modeldeki medyan fiyat farkı tam olarak %0,0: tipik bir model için her sağlayıcı aynı girdi ücretini alıyor. Aynı zamanda, modellerin kayda değer bir azınlığında bir projenin maliyet tabanını bir mertebe değiştirecek kadar büyük farklar var.

Farklar nasıl dağılıyor

dev.to'ya göre dağılım alt uçta yoğunlaşıyor:

Girdi fiyat farkı	Model	Pay
%20'nin altında	270	%72
%20–50	25	%7
%50–100	25	%7
%100–200	13	%3
%200'nin üzerinde	42	%11

Karşılaştırılabilir modellerin neredeyse dörtte üçü bu nedenle sağlayıcıdan bağımsız olarak birbirinin beşte biri içinde bir aralıkla fiyatlanıyor; ancak yaklaşık dokuzda bir model, en pahalı sağlayıcıda en ucuz sağlayıcıya göre üç kattan fazla ücrete mal oluyor.

En büyük farklar

Veri setindeki en geniş fark Qwen/Qwen3-235B-A22B-Instruct-2507 modeline ait: deepinfra'da milyon girdi tokenı başına 0,09 $, crusoe'da ise 3 $ listeleniyor — aynı model için 33 katlık bir fark. dev.to tablosundaki diğer dikkat çekici örnekler:

Model	Sağlayıcı sayısı	En ucuz	En pahalı	Fark
Qwen3-235B-A22B-Instruct-2507	3	$0.09 (deepinfra)	$3 (crusoe)	+%3233
gpt-oss-120b	13	$0.03 (wandb)	$0.80 (crusoe)	+%2567
DeepSeek-R1-Distill-Qwen-14B	2	$0.07 (nscale)	$1.60 (together_ai)	+%2186
mistral-large-latest	3	$0.50 (mistral)	$8 (azure)	+%1500
Qwen2.5-Coder-32B-Instruct	3	$0.06 (nscale)	$0.80 (together_ai)	+%1233
DeepSeek-R1-0528	5	$0.25 (hyperbolic)	$3 (crusoe)	+%1100
Llama-3.3-70B-Instruct-Turbo	2	$0.10 (deepinfra)	$1.04 (together_ai)	+%940

Medyan neden sıfır

dev.to, tek tip fiyatlandırmayı koordinasyondan çok piyasa yapısına bağlıyor. Makaleye göre inference sağlayıcılarının çoğu, aynı üst düzey GPU tedarikçilerinden aldıkları işlem gücünü yeniden satıyor, aynı model ağırlıklarını aynı donanım neslinde çalıştırıyor ve çoğu zaman özgün sağlayıcının ya da baskın bir pazar yerinin belirlediği liste fiyatını yansıtıyor. Temel maliyet aynı olduğunda ve sunulan ürün ayırt edilemez olduğunda marjlar daralıyor ve sağlayıcılar tek bir sayıda buluşuyor.

Uç değerler nereden geliyor

Büyük farklar, spektrumun iki zıt ucundaki iş modelinden kaynaklanıyor. İlki, crusoe ve hyperbolic gibi GPU-saat kiralayan sunucular; bunlar inference satmak yerine ham işlem gücü kiralıyor ve token başına etkin fiyatları kullanım oranına, elektrik maliyetlerine ve donanım nesline bağlı olduğundan emtia fiyatlarından çok uzakta kalabiliyor. İkincisi, kendi serving altyapılarını işleten ve fiyata kurumsal garantiler, destek ve entegrasyon dahil eden uzmanlaşmış platformlar — azure, together_ai, nscale. Mistral'ın kendi platformunda mistral-large-latest için 0,50 $ alması karşısında Azure'ın 8 $ alması, aynı ağırlıkların etrafındaki iki farklı servis paketini yansıtıyor.

Verilerle ilgili uyarılar

dev.to analizi üç sınırlığa işaret ediyor. Fiyatlar, liste ücretlerinin sık değiştiği bir piyasadaki anlık görüntüler; bu nedenle bugünün uç değeri gelecek hafta ortadan kalkabilir — sıfır medyan buna dayanıklı, kuyruk ise değil. Verilen rakamlar kısa bağlamdaki girdi ücretleri; uzun bağlamlı istekler bazı sağlayıcılarda çok daha pahalıya mal olabilir. Ayrıca ortak bir model adı, aynı serve edildiğini garanti etmiyor: sağlayıcılar farklı quantization düzeyleri veya batch boyutları kullanabilir ve bu durum daha düşük bir fiyatı meşru olarak açıklayabilir. Makale bir yerde 382 modelden, başka bir yerde ise 375 modelden söz ediyor; ancak analiz ağırlıklı olarak 375 modellik örneklemeye dayanıyor.

Neden önemli

Mühendislik ekipleri için pratik ders şu: tek bir sağlayıcının fiyat listesi piyasa fiyatı değildir. Popüler açık ağırlıklı modeller için uç noktaları karşılaştırmak girdi maliyetlerini ciddi biçimde düşürebilir — ama yalnızca daha ucuz seçeneğin aynı quantization'ı sunduğunu, uzun bağlamları benzer biçimde fiyatlandırdığını ve güvenilirlik gereksinimlerini karşıladığını doğruladıktan sonra. Sektör açısından ise sıfır medyan, LLM inference'daki rekabetin büyük ölçüde aynı üst düzey kapasitenin yeniden satışı olduğunu, uç değerlerin ise tek bir model adı altında satılan gerçekten farklı ürünleri işaret ettiğini gösteriyor.