NVIDIA'ın reportedly 13 milyar dolarlık Hugging Face anlaşması açık model dağıtımını kendi silikonuna bağlayacak

NVIDIA Hugging Face'i satın almak için hamle yapıyor

Ashutosh Maurya'nın dev.to analizine göre NVIDIA, Hugging Face'i yaklaşık 13 milyar dolara satın alacağını duyurdu. Anlaşma, açık kaynak yapay zeka dünyasının merkez üssünü — reportedly 18 milyondan fazla geliştiriciye ve 200.000 şirkete hizmet veren bir platform — halihazırda yapay zekanın compute katmanı üzerinde önemli bir etkiye sahip bir şirketin bünyesine katacak.\n Gönderiye göre NVIDIA, Hugging Face'in satın alma sonrasında da açık bir platform olarak kalacağını, multicloud ve multi-accelerator geliştirmeyi desteklemeye devam edeceğini ve geliştiricilere model, veri seti ve uygulamalardan oluşan ekosistemine erişim sağlayacağını söylüyor.

Yığının iki katmanı, tek sahip

Maurya anlaşmayı modern yapay zeka yığınının biçimi üzerinden çerçeveliyor: Bu yapıda bir uygulama modelin üzerinde, model bir inference runtime'ının üzerinde, runtime bir GPU'nun veya başka bir accelerator'ın üzerinde, accelerator ise bir bulutun üzerinde durur. Açık kaynak ekosistemi bütün bunların üstüne bir katman daha ekler: Modellere, veri setlerine ve uygulamalara Hugging Face üzerinden ulaşan, dolayısıyla yapay zeka çerçevelerini, inference katmanlarını, accelerator'ları ve bulutları besleyen geliştirici.

NVIDIA halihazırda compute katmanını kontrol ediyor; Hugging Face ise geliştiriciye ve model dağıtımı katmanına çok daha yakın duruyor. Gönderi, ikisini bir araya getirmenin modelden runtime'a, accelerator'dan dağıtıma giden yolu uçtan uca oldukça entegre hale getirebileceğini savunuyor.

Dikeyleşme sorusu

Maurya'ya göre geliştiriciler için dikkat çekici değişim, yapay zeka altyapısının giderek daha dikey hale gelmesi. Sektör, tek bir ekosistemin modelleri, model depolarını, veri setlerini, fine-tuning iş akışlarını, inference araçlarını, hızlandırılmış runtime'ları, donanım optimizasyonunu ve bulut dağıtımını tek bir pakette sunabildiği platformlara doğru ilerliyor.

Analiz, NVIDIA'nın multicloud ve multi-accelerator desteğine ilişkin beyan ettiği taahhüdün burada önemli olduğunu belirtiyor; çünkü bu taahhüt, anlaşma ile tamamen kilitli bir yığın arasındaki başlıca engel konumunda.

Uygulama ekipleri için mimari bir ayrım yolu

Gönderi, yapay zeka üzerinde çalışan herkes için bir tasarım sorusu ortaya koyuyor: Bir uygulama tek bir sağlayıcıya, tek bir modele ve tek bir altyapıya mı dayanmalı? Yoksa bir AI gateway ve model router'ın arkasına, birden fazla accelerator'ı kapsayan bir inference katmanı üzerinden istekleri açık modellere, bulut modellerine ve yerel modellere yönlendirebilecek şekilde mi konumlanmalı?

Maurya'ya göre ikinci tasarım, ekiplere maliyet, gecikme, gizlilik, erişilebilirlik ve vendor lock-in konularında esneklik sağlıyor ve model taşınabilirliğini birinci sınıf bir mühendislik meselesi haline getiriyor. Onun görüşüne göre bir model, uygulamanın tüm mimarisini dikte etmemeli.

Uygulamanın kendisi iş mantığını, kimlik doğrulamayı, gözlemlenebilirliği, değerlendirmeyi, araç tanımlarını, veri sözleşmelerini ve model yönlendirme mantığını elinde tutmalı; sağlayıcıyı veya runtime'ı bu katmanların altında değiştirilebilir bırakmalı.

Analizden uygulanabilir çıkarım şu: İş mantığını tek bir modele veya inference sağlayıcısına sabitlemeyin. Bir AI gateway veya model soyutlaması devreye koyun, modele özgü davranışı izole edin ve ekonomik koşullar ile yetenekler değiştikçe hosted API'lar, açık modeller, yerel inference ve farklı accelerator yığınları arasında geçiş seçeneğini açık tutun.

Neden önemli

Anlaşma tarif edildiği şekilde kapanırsa, yapay zeka compute'u üzerinde halihazırda büyük bir güce sahip olan bir şirket, açık modellerin ve veri setlerinin dağıtım katmanına dönüşen platformu da sahiplenecek. Bu, prototipten dağıtıma giden yolu basitleştirebilir; ancak açık kaynak yapay zeka ekosisteminin kalbine bir tarafsızlık sorusu yerleştiriyor. Geliştiriciler için pratik güvence mimari: Kim platforma sahip olursa olsun modellerin, runtime'ların ve donanımın değiştirilebilir kalması için soyutlama katmanlarını yerinde tutun.