Nvidia, GPU ihtiyacını azaltan AI inference yazılımı Simplismart'ın 14 milyon dolarlık turuna destek veriyor

Ne oldu

Nvidia, mevcut donanımda AI modellerini daha verimli çalıştırmak için yazılım geliştiren dört yıllık Bengaluru girişimi Simplismart'a yatırım yaptı. TechCrunch'a göre şirket, Dallas Venture Capital liderliğindeki tamamen birincil (all-primary) bir Series B turunda 14 milyon dolar raisedi; Accel, Shastra VC, Micromax ve Nvidia da tura katıldı. Anlaşma, girişimi yeni fon dahil yaklaşık 100 milyon dolar değerlemeye ulaştırdı.

Tur, şirketlerin AI uygulamalarını güçlendirmek için GPU'lara ağır paralar harcadığı, ancak bu modelleri ölçekli, güvenilir ve ekonomik biçimde çalıştırmakta zorlandığı bir dönemde geldi; farklı iş yükleri hız, maliyet ve performans arasında farklı dengeler gerektiriyor.

Yazılım ne yapıyor

Simplismart'ın platformu, AI modelleri ile bunlara hizmet veren hesaplama altyapısının arasında yer alıyor ve modellerin müşteri gereksinimlerine uygun şekilde dağıtılmasını ve yönetilmesini otomatik olarak optimize ediyor. Platform; bir modelin ne kadar hızlı yanıt verdiği, kaç isteği karşılayabildiği ve ne kadar hesaplama kaynağı tükettiği gibi faktörleri optimize ederek şirketlerin halihazırda sahip olduğu GPU filolarından daha fazlasını almasını sağlıyor.

"Aslında kimsenin en hızlı ya da en ucuz inference'a ihtiyacı yok," diyen kurucu ortak ve CEO Amritanshu Jain, TechCrunch'a şirketlerin bunun yerine belirli uygulamalarına uygun hız ve maliyetlerde çalışan modellere ihtiyaç duyduğunu söyledi.

Müşteriler modelleri Simplismart'ın kendi platformu üzerinden ya da mevcut bulut ve şirket içi (on-premises) ortamlarında dağıtabiliyor ve çalıştırabiliyor. Ürün ayrıca fine-tuning, talebe göre hesaplama kaynağının otomatik ölçeklenmesi ve performans izlemeyi de kapsıyor. Bulut sağlayıcıları ayrıca bu yazılımı GPU altyapısı üzerinde kendi AI inference servislerini kurmak ve işletmek için kullanabiliyor.

Müşteriler ve büyüme

TechCrunch'un haberine göre Simplismart, AI video üretim platformu InVideo'nun GPU servis maliyetlerini yüzde 56 azaltmasına yardımcı oldu. Diğer müşteriler arasında AI video şirketleri HeyGen ve Higgsfield ile kurumsal AI girişimi Ema yer alıyor. Hint bulut sağlayıcısı Yotta, teknolojiyi Shakti Studio platformundaki serverless inference servisini güçlendirmek için kullanıyor.

Jain, TechCrunch'a Simplismart'ın yıllıklandırılmış gelir koşusunun (annualized revenue run rate) son altı ayda 14 kat artarak sekiz haneli bir tutara ulaştığını söyledi. Kesin rakamı açıklamadı; şirket ise bu sayının sözleşmeye bağlı yinelenen gelirden ziyade yakın dönemdeki müşteri kullanımını yansıttığını ve altyapı sağlayıcılarına aktarılan gelirin dahil olmadığını belirtti. Şirketin Hindistan'da daha fazla müşterisi olmasına rağmen gelirin yarısından fazlası ABD'den geliyor.

Nvidia'nın çelişkili bahsi

Yatırım görünürde bir gerilim taşıyor: AI çiplerinin baskın tedarikçisi Nvidia, bazı durumlarda şirketlerin iş yüklerini daha az GPU ile çalıştırmasını sağlayan bir yazılıma destek veriyor. Jain ise ters etkinin ağır basabileceğini savunarak, daha ucuz ve verimli inference'ın Nvidia'nın donanımını müşteriler için daha cazip hale getirdiğini ve AI kullanımını yaygınlaştırdığını, dolayısıyla sonuçta çip üreticisinin yararına olduğunu söyledi.

İlişki sermayenin ötesine geçiyor. Jain, TechCrunch'a iki şirketin Nvidia'nın Dynamo inference yazılımı dahil teknik entegrasyonlar üzerinde çalıştığını ve Simplismart'ın mühendislerinin Nvidia'nın çözüm mimarlarıyla iş birliği yaptığını söyledi. Nvidia ayrıca girişimi potansiyel müşteri ve ortaklarla tanıştırdı.

Kalabalık bir pazar

Simplismart, AI inference yazılımında giderek kalabalıklaşan bir alanda faaliyet gösteriyor ve Nvidia'nın kendi çözümlerinin yanı sıra Amazon Web Services, Google Cloud ve Microsoft Azure'un teklifleriyle, modelleri daha hızlı ve ucuz çalıştırmaya yönelik araçlar geliştiren bir dizi girişimle rekabet ediyor. Jain, Simplismart'ın daha hızlı veya daha ucuz inference için hazır seçenekler sunmak yerine, müşterilerin katı hizmet düzeyi sözleşmeleri (SLA) ve sıkı toplam sahip olma maliyeti kısıtlarıyla karşılaştığı durumlarda öne çıktığını söyledi.

Şirket, eski bir Oracle mühendisi olan Jain ile eski bir Google mühendisi olan ve BITS Pilani'de okurken tanışan Devansh Ghatak tarafından 2022'de kuruldu. Şu anda 58 kişi çalıştırıyor.

Simplismart, fonu ABD'deki varlığını genişletmek, ekibini büyütmek ve inference yazılımını daha da geliştirmek için kullanmayı planlıyor. Bu duyuru, Hint gazetesi The Economic Times'ın girişimin 300 ile 400 milyon dolar değerlemeyle 40 ila 50 milyon dolar toplamak için görüşmelerde olduğuna dair haberinin ardından geldi; Jain bu habere yorum yapmayı reddetti ve TechCrunch'a şirketin aktif olarak fon toplamadığını, Series B'nin kapandığını ve uzatılmayacağını söyledi.

Neden önemli

Inference, AI'ın baskın yinelenen maliyeti haline geliyor ve GPU kapasitesi, video üretiminden kurumsal ajanlara kadar her şey için bir darboğaz olmayı sürdürüyor. Her GPU'dan daha fazla isteği sıkarak çıkaran yazılım, üzerine inşa edilen her AI ürününün birim ekonomisini değiştiriyor; hyperscaler'lar ve uzun kuyruklu girişimler bu yüzden aynı soruna yöneliyor. Nvidia'nın turdaki varlığı buradaki kayda değer sinyal: çip üreticisi fiilen, GPU başına daha iyi verimliliğin çip talebini daraltmak yerine toplam AI kullanımını genişleteceğine bahse giriyor ve Dynamo dahil kendi yazılım yığınını temel alan bir girişimi finanse ediyor. Daha önce haberde geçen tur ile nihai, daha küçük tur arasındaki fark da erken finansman haberleriyle kesinleşen koşulların çoğu zaman ciddi biçimde ayrışabildiğinin bir hatırlatıcısı.