Box, Nvidia'nın Nemotron embedding modellerini agent odaklı içerik erişimine entegre ediyor

Box, Perşembe günü düzenlenen geliştirici konferansında, Nvidia'nın Nemotron embedding sistemini ürününün merkezine yerleştiren Box Content Retrieval özelliğini duyurdu. TechCrunch'a göre yeni yetkinlik AI agent'larına yönelik: bir agent'ın tüm belgeleri baştan sona okuması yerine sistem, Nemotron tarafından üretilen metadata'yı kullanarak bir sorgu ya da görevle en alakalı parçaları geri döndürüyor.

Nvidia beklenen kazançlara dair somut rakamlar verdi. Şirketin üretken yapay zeka yazılımlarından sorumlu VP'si Kari Briski, TechCrunch'a sorguların dört kat daha hızlı yanıtlanmasını, hata oranında %20 azalma ve %90 daha az token kullanımı beklediğini söyledi. Token azalması hız kadar önemli: geniş belge kümeleri üzerinde agent çalıştıran kurumlar için maliyet, token hacmiyle doğru orantılı olarak artıyor; dolayısıyla %90'lık bir kesinti ciddi anlamda daha ucuz bir işletme anlamına geliyor.

Özellik tüm Enterprise Advance müşterilerine sunulacak ve gelecek yılın başında kullanıma açılacak.

Nemotron Embed'in bir uygulaması

Özellik, Nvidia'nın otomatik erişim sistemlerini geliştirmek üzere tasarlanmış açık ağırlıklı embedding modelleri yayımlayan Nemotron Embed projesinin bir uygulaması. Embedding modelleri, büyük dil modellerini kullanarak veriyi önceden işler, böylece agent'lar bu veriyle daha verimli çalışabilir — TechCrunch'un da belirttiği gibi, sınır laboratuvarlarının (frontier labs) büyük ölçüde göz ardı ettiği ama Nvidia'nın açık kaynak model çalışmalarının odağı haline getirdiği bir kategori. Nvidia'nın Temmuz ayındaki en güncel Nemotron sürümü, erişim kalitesini ölçen RTEB benchmark'ında ilk sırayı aldı.

Box CEO'su Aaron Levie bu değişikliği, şirketin arama teknolojisinin agent'lar için alaka düzeyini yükselten bir adım olarak nitelendirdi ve TechCrunch'a sistem, agent'ı her dosyayı baştan sona okumaya zorlamak yerine ihtiyacı olan belge parçalarını geri gönderebiliyor dedi.

Kazanım, işlenmiş veri üzerinde akıcı biçimde çalışabilen daha aktif agent'larla eşleştiğinde en büyük halini alıyor. Box örnek olarak hukuk çalışmalarına dikkat çekti: avukatlar sistemi ilgili madde ve emsal kararları daha kolay bulmak için kullanabilir. Nemotron'un embedding'leri yalnızca anahtar kelimeleri değil altta yatan kavramları eşlediği için, belgeler tamamen farklı bir dille yazılmış olsa bile arama ilgili hukuki fikirleri ortaya çıkarabiliyor.

Sıfırdan kopyalamak zor

Nemotron modellerinin kendileri özgürce erişilebilir olsa da erişim sistemi büyük ölçüde Box'ın halihazırda sahip olduğu metadata ve izin kontrollerine dayanıyor; bu da başka yerde yeniden oluşturulmasını zorlaştırıyor. "Muhtemelen beş farklı teknolojiyi tek bir basit API içinde paketliyoruz," dedi Levie TechCrunch'a. Bir başka deyişle, açık ağırlıklı model yalnızca bir bileşen; hangi kullanıcının ya da agent'ın hangi parçayı görmeye yetkili olduğunu bilen çevresindeki altyapı, pratik değerin büyük kısmının bulunduğu yer.

Neden önemli

Bu duyuru, kurumsal yazılımın nereye gittiğinin bir fotoğrafı: içerik platformları, depolanan belgelerin birincil tüketicisi yalnızca insanlar değil agent'lar olacak şekilde yeniden kurgulanıyor. Erişim kalitesi, gecikme süresi ve token verimliliği, Box gibi satıcılar için arka plan detayı olmaktan çıkıp ürün düzeyinde farklılaştırıcılar haline geliyor.

Duyuru ayrıca açık ağırlıklı modellerin bu dönüşümdeki sessiz rolünü gözler önüne seriyor. İlgilerin çoğu sınır modellerine (frontier models) odaklanırken, Nvidia'nın açık kaynak embedding çalışması artık büyük bir kurumsal platformun çekirdek ürününe gömülmüş durumda. Box'ın sistemin yalnızca ücretsiz modellerden hareketle yeniden inşa edilemeyeceği yönündeki argümanı da şunu hatırlatıyor: kurumsal yapay zekâda izin kontrolleri ve birikmiş metadata hâlen asıl hendeği oluşturuyor — model emtia statüsüne yaklaşırken entegrasyon yaklaşmıyor.