Cloudflare çok modlu Clef-omni modelini kullanıma sundu, Clef-flash fiyatını Jev'in altına indirdi

Cloudflare, açık ağırlıklı karar modeli ailesi Clef'i Clef-omni ile genişletti; bu sürüm ses, video, görsel ve metin girdisini tek bir API çağrısında kabul ediyor. Cloudflare blogunda duyurulan ve Clef-flash için fiyat indirimi ile Clef'in servis katmanındaki hız artışlarıyla birlikte gelen bu sürüm, orijinal Clef ve Clef-flash lansmanından yaklaşık bir hafta sonra ortaya çıktı. Şirkete göre ilk Clef, cuma akşamı alınan bir karardan perşembe günü yapılan bir lansmana dönüştü ve eğitim tek bir hafta sonunda tamamlandı.

Bir pipeline yerine tek çağrı

Cloudflare'ın belirttiğine göre, üretilmiş düz metin yerine şemaya bağlı yapılandırılmış yargılar döndüren karar modelleri, TypeSafe Jev'i yayınladığından beri çoğunlukla yalnızca metin tabanlıydı. Orijinal Clef görseller ve video karesi dizileri eklemişti; Clef-omni ise wav veya mp3 biçiminde ses ile mp4 veya webm biçiminde tam video ekliyor. Pratik çekiciliği daha az yapılandırma ihtiyacında yatıyor: analizden önce bir konuşmadan metne modeli zincirlemek ya da bir videodan ses ve görüntü kanallarını ayıklamak yerine, tek bir istek her şeyi puanlıyor. Cloudflare'ın örneği, bir cihaz kurulumuna ait bir fotoğrafı, bir ses kaydını ve bir videoyu birlikte gönderiyor ve seri etiketi, cihazın nasıl ses çıkardığı ve fanın çalışıp çalışmadığı hakkında ayrı sorular soruyor.

Konuşma çıktısı olmaksızın Qwen3-Omni üzerine inşa edildi

Clef-omni, metin, görüntü, ses ve videoyu tek bir pipeline'da işleyen Qwen3-Omni-30B-A3B-Instruct mixture-of-experts temeline dayanıyor. Cloudflare kavrama omurgasını korudu ve metinden konuşmaya çıktı bileşenlerini çıkardı. Clef modelleri LLM olmadığı ve çıktı token üretimi yapmadığı için, gelen medya doğrudan ses ve video görsel karelerle senkronize edilmiş birleşik bir dizine eşleniyor. Aday değerler iki aşamalı dikkat yönlendirmesiyle iç gömmelerden çekiliyor ve yerleşik bir sözcüksel dilbilgisi, şemayla kısıtlanmış hızlı puanlama için seçenek semantiğini koruyor. Eğitim Clef ile aynı: Qwen3 omurgası donduruluyor, düşük ranklı adaptörler eğitiliyor ve etiket düzeltmeli çapraz entropi kaybı, Brier skor kalibrasyonuyla birleştiriliyor.

Bildirilen gecikme süreleri: yalnızca metin kararları için medyan yaklaşık 130 ms, görsellerle 150 ms, ses kayıtları için birkaç yüz milisaniye ve sesli 21 saniyelik bir video kaydı için yaklaşık 1,5 saniye — hepsi tek bir çağrıda.

Kıyaslamalar: Yer yer güçlü, kolay bir zafer değil

Cloudflare kendi test seti ve TypeSafe'in değerlendirmeleri genelinde sonuçlar yayınladı ve hiçbir model tek başına öne çıkmıyor. Clef-omni, CLINC150+OOS üzerinde Jev'in 89,27'sine karşı 97,7 macro-F1 ve BFCL üzerinde 98,2 case-exact skor aldı; ancak When2Call doğruluğunda 80,97'ye karşı 63,3 ve BRIGHT nDCG@10'da 47,52'ye karşı 42,0 ile Jev'in gerisinde kaldı. Clef-flash en iyi ev aletleri sonucunu 97,73 case-exact ile elde ederken, Clef ToolRet'i 69,1 nDCG@10 ile önde götürüyor. TypeSafe'in değerlendirmelerinde tablo bölünüyor: Clef fatura işleme tam eylemlerinde 64,75 ile Jev'in 61,8'inin önünde, Clef varyantları müşteri hizmetlerinde önde, güvenlik olayları neredeyse başa baş ve Jev, ajan iz gözlemlenebilirliğinde 71,6 ile Clef-omni'nin 65,8'ine karşı üstünlüğünü koruyor.

Daha küçük barındırılan bağlam ile daha ucuz Clef-flash

Clef-flash, milyon girdi tokenı başına 0,09 dolardan 0,038 dolara indi; Cloudflare'a göre bu, onu Jev'den daha ucuz yapıyor. Clef milyon token başına 0,24 dolarda kalıyor ve Clef-omni 0,15 dolarla başlıyor. İndirimde bir pürüz var: barındırılan Clef-flash bağlam penceresi, daha önce duyurulan 64k'dan 24k tokena daralıyor. Cloudflare'ın kullanım verileri, isteklerin yalnızca %0,24'ünün 24k girdi tokenını aştığını gösterdiği için şirket daha düşük fiyata ulaşmak bu kesimi yaptı. Hugging Face'teki ağırlıklara dokunulmadı ve kendi kendine barındırıldığında 256k bağlam destekleniyor; Clef ise daha büyük yükler için 64k penceresini koruyor.

Clef daha hızlı servis ediliyor

Workers AI'daki barındırılan Clef modeli de yeni ağırlıklar yerine servis altyapısı değişiklikleriyle hızlandı. Yaklaşık 800 tokenlık girdiler için medyan gecikme 262 ms'den 152 ms'ye düştü, p95 ise 438 ms'den 351 ms'ye iyileşti.

Neden önemli

İki şey öne çıkıyor. Birincisi tempo: Cloudflare bir fikri bir haftadan kısa sürede kullanıma sunulmuş açık ağırlıklı modellere dönüştürdü ve şimdiye kadar iki kez yineledi; ağırlıklar, herkesin kendi kendine barındırması için Hugging Face'te mevcut. İkincisi ekonomi: milyon girdi tokenı başına 0,038 dolara, bir karar modeli, ajanlı iş akışlarına rutin bir bileşen olarak gömülecek kadar ucuz hale geliyor ve tek çağrılı çok modluluk, genellikle analizden önce gelen transkripsiyon ve demuxing adımlarını ortadan kaldırıyor. Ödünleşimler de aynı derecede öğretici. Daraltılmış bir barındırılan bağlam penceresinin değişmemiş açık ağırlıklarla karşılaştırılması, yönetilen kolaylık ile kendi kendine barındırma esnekliğinin nerede ayrıştığını gösteriyor; karışık kıyaslama sonuçları ise karar modeli kategorisinin, Cloudflare'ınki dahil hiçbir teklifin henüz varsayılan bir seçenek olmadığı kadar genç olduğunu düşündürüyor.