Salesforce, Nvidia'nun açık ağırlıklı Nemotron üzerine inşa edilen ilk reasoning modeli Koa'yı duyurdu

Salesforce'un ilk reasoning modeli

Salesforce, Dreamforce konferansında ilk reasoning modeli olan Koa'yı tanıttı. TechCrunch'a göre Koa, Nvidia'nın açık ağırlıklı modeli Nemotron üzerine Nvidia ile birlikte inşa edildi ve iki şirket, modeli satış, pazarlama ve müşteri destek işlerini yerine getirecek şekilde post-train etti. Model, Salesforce müşterilerinin destek sorularını yanıtlama veya randevu planlama gibi rutin işler için agent'lar kurduğu platform olan Agentforce'ta sunulan diğer modellere bir alternatif olarak sunulacak.

Koa'nın doldurduğu boşluk reasoning. Salesforce AI'dan EVP Jayesh Govindarajan, şirketin Agentforce portföyünün parçası olarak halihazırda pek çok küçük, göreve özgü dil modeli sunduğunu, "ancak reasoning konusunda her zaman frontier model sağlayıcılarına bel bağladık. Şimdiye kadar" dedi. Daha önce bir agent'ın uzun süren, çok adımlı bir görevi çözmesi gerektiğinde, Agentforce'un AI gateway'i — hangi modelin hangi isteği ele alacağına karar veren yönlendirme katmanı — bu prompt'ları Claude veya ChatGPT gibi bir frontier modele iletiyordu.

Kurumsal vaat

TechCrunch, Koa'yı kurumların yapay zekadan beklediği ihtiyacın frontier laboratuvarların sattığı şeyden uzaklaştığının bir kanıtı olarak yorumluyor; çünkü laboratuvarlar şirketlerin dosyalarını, kodlarını, prompt'larını ve geri bildirimlerini barındırılan modellerine yükleyip bu ayrıcalık için ağır bedeller ödemesini tercih ediyor. TechCrunch'un aktardığına göre Salesforce'un müşterilerine sunduğu:

• kapalı frontier modellere açık ağırlıklı bir alternatif
• yarışma seviyesindeki matematik problemlerini çözmek için değil, somut iş görevleri için eğitilmiş bir model
• eğitim sırasında gerçek müşteri verisi kullanılmaması ve dolayısıyla sızdırılacak müşteriye özgü hiçbir şey olmaması
• Koa aynı işi daha az token harcayarak yaptığı için daha düşük yapay zeka harcaması
• göreve bağlı olarak Salesforce'un AI gateway'i üzerinden otomatik yönlendirme
• her müşterinin veri gereksinimlerine uyum ve Salesforce içinde güvenlik

Nemotron neden başlangıç noktası oldu

Govindarajan, Salesforce'un uzun süredir kendi kurumsal sınıf modelini eğitmek istediğini ama uygun bir temel modelin yokluğu nedeniyle engellendiğini söyledi. Nemotron bunu değiştirdi: onun ifadesiyle Nemotron, hem en son teknoloji hem de net bir veri kaynak geçmişine sahip ilk egemen Amerikan pre-trained model. Yaptığı karşılaştırma Alibaba'nun yaygın olarak kullanılan açık ağırlıklı modeli Qwen ile ilgiliydi — "Qwen'in neyle eğitildiği hakkında hiçbir fikrimiz yok" dedi TechCrunch'a.

Simüle edilmiş müşterilerle eğitildi

Post-training süreci, genel amaçlı Nemotron temelini alarak onu satış ve müşteri destek işlerinde akıcılığa yönlendirdi. Özellikle, sürece gerçek Salesforce müşteri verisi girmedi: şirketler bunun yerine müşteri kalıplarını taklit eden sentetik veri üretti. Govindarajan, sinirli arayanlar dahil persona agent'larla donatılmış simüle edilmiş servis ortamlarının yanı sıra anlaşma kapatmaya çalışan satış persona'larını da anlattı.

Verimlilik konusunda Nvidia'nın kurumsal generative AI yazılımlarından sorumlu VP'si Kari Ann Briski, TechCrunch'a Nemotron'un "token verimli çıkarım için benzersiz bir mimari" getirdiğini söyledi ve egemen yapay zekayı, ilk token'a kadar geçen süreyi ve verimli reasoning'i token ekonomisinin üçlüsü olarak tanımladı.

Frontier laboratuvarlardan çıkış değil

Koa, Salesforce'un Anthropic veya OpenAI'den vazgeçtiği anlamına gelmiyor. Şirket aynı etkinlikte, şirketlerin Claude'u yapay zeka arayüzü olarak kullanırken verilerinin Salesforce'un kayıt sisteminde, Salesforce'un kendi altyapısınca korunarak kalmasını sağlayan Anthropic ile ClaudeForce ortaklığını duyurdu.

Neden önemli

Koa, büyük bir kurumsal tedarikçinin bu yeteneği frontier laboratuvarlardan kiralamak yerine açık ağırlıklı bir temel üzerinde kendi reasoning katmanını inşa etmesinin somut bir örneği. Göreve özgü bir model, kurumların gerçekten otomatikleştirdiği dar kapsamlı işlerde frontier kalitesini yakalayabiliyorsa — daha az token kullanırken, müşteri verisiyle asla eğitim görmeyip kanıtlanabilir bir veri kaynak geçmişi sunarken — barındırılan frontier modellerin token başına fiyatlaması gerçek bir baskı altına giriyor. Bu aynı zamanda açık ağırlıklı modellerin kurumsal altyapıya olgunlaşmasının bir işareti: regüle edilen alıcılar için bir temel modelin eğitim verisinin nereden geldiği artık bir satın alma kriteri ve Nvidia, Nemotron'un Amerikan kaynak geçmişini tam olarak bunun için pazarlıyor. Gateway yönlendirme deseni — önce ucuz, uzmanlaşmış modeller, frontier modeller yalnızca gerektiğinde — kurumsal agent'lar için varsayılan mimari olmaya aday görünüyor.