Cloudflare, Clef karar modellerini açık kaynak yaptı ve RL fine-tuning platformunu başlattı

Cloudflare, Clef ve Clef-flash'ı yayınladı

Cloudflare, daha büyük bir hassasiyet modeli ile Clef-flash adında daha hızlı bir varyanttan oluşan Clef karar modeli ailesini başlattı. Her ikisi de şirketin Workers AI platformunda sunuluyor ve Apache 2.0 lisansıyla Hugging Face üzerinde açık ağırlıklar olarak yayınlandı. Bunların yanı sıra Cloudflare, Clef'i belirli iş yüklerine uyarlamak için pekiştirmeli öğrenme (reinforcement learning) fine-tuning ürününü duyurdu. Cloudflare bloguna göre Clef, şu anda bu model kategorisine yönelik bir kıyaslaması olan Jev Decision Index'te lider konumda.

Bu yayın, Typesafe AI'ın Jev System One ile öne çıkardığı bir kavram olan karar modellerine haftalarca süren ilginin ardından geldi. Genel amaçlı bir LLM uçsuz bucaksız ve büyük ölçüde belirsizlik (non-deterministic) içerirken, bir karar model olasılıklarla birlikte tipli yanıtlar döndürür; bu da bir iş akışında yazılımın üretilmiş metin yerine güvenilir bir sınıflandırmaya ihtiyaç duyduğu anlara uyar — üstelik geleneksel sınıflandırıcıların aksine, sürekli yeniden eğitim olmadan yeni kategorileri de işleyebilir.

Bir karar modeli ne işe yarar

Cloudflare blogu bu deseni bir destek talebi örneğiyle açıklıyor: bir müşteri mesajını verin, acil olup olmadığını ve hangi ekibin ele alması gerektiğini sorun; model, kodun yönlendirme, tırmandırma ya da bir insana devretme için harekete geçebileceği tipli alanlar ve güven skorlarıyla yanıt verir. Cloudflare, Clef'i Threat Intelligence ekibinde web sitelerini sınıflandırmak için halihazırda kullandığını söylüyor. Kendisine bir domain verildiğinde ve sayfayı getirmek ile render etmek için Browser Run kullanıldığında, Clef 2.2 saniyede %95 moda, %85 e-ticaret ve %1'in altında phishing gibi olasılıklar döndürdü. Şirketin en hızlı genel LLM'i olan gpt-oss-120b, aynı iş akışı için 4.7 saniye aldı ve yalnızca iki sınıflandırma üretti.

Gönderiye göre Clef, Jev'den iki açıdan ayrılıyor: metnin yanı sıra görüntüleri de sınıflandırabilmesi için bir vision encoder içeriyor (Jev bugün yalnızca metni işliyor) ve Jev'in 32k'ına karşılık 64k bağlam penceresine sahip. Çıktılar kesinlikle tipli ve API, Jev ile uyumlu; Cloudflare bunun modelleri değiştirmeyi kolaylaştırdığını söylüyor.

Kıyaslama ve gecikme iddiaları

Cloudflare, 43 değerlendirme genelinde sonuçlar raporluyor. Jev Decision Index paketinde Clef ve Clef-flash, BFCL case-exact'te Jev'in 95.75'ine karşılık 98.47 ve 98.76, PhishNChips phishing setinde ise 62.55'e karşılık 79.60 puan aldı; ancak Jev, When2Call doğruluğu gibi bireysel testlerde, Clef'in 72.37'sine karşılık 80.97 ile hâlâ önde. Typesafe'ın kendi değerlendirme paketinde Cloudflare, modellerinin dört iş akışı alanından üçünde Jev'i geçtiğini, Clef-flash'ın ise hızına kıyasla özellikle güçlü olduğu için öne çıkarıldığını söylüyor.

Gecikme, öne çıkan rakam. Bu kıyaslamalar genelinde medyan yanıt süreleri Clef için 209.3 ms, Clef-flash için 38.8 ms iken Jev için 524.1 ms oldu; p95 süreleri ise sırasıyla 238.6 ms ve 122.4 ms. Yalnızca Laya, 5.8 ms medyanla daha hızlıydı; ancak Cloudflare bunun kaliteden ödün verdiğini belirtiyor. Modeller Cloudflare'in edge GPU'larında çalıştığı için şirket, bunların bir agent'ın kritik yolunda (hot path) konumlanabileceğini ve ardından Workers AI üzerindeki bir LLM'nin seçilen eylemi icra edebileceğini savunuyor.

Açık ağırlıklar ve fine-tuning

Apache 2.0 sürümü, geliştiricilerin modelleri yerel olarak çalıştırabileceği anlamına geliyor; barındırılan sürüm ise Cloudflare'in müşteri isteklerini ve yanıtlarını okumadığı, saklamadığı ve eğitim için kullanmadığı kurumsal garantisiyle geliyor — fine-tuning'e katılmayı seçenler hariç. Bu hizmet, Cloudflare'in ileri konuşlandırmalı (forward-deployed) mühendisleriyle uygulamalı bir iş birliği olarak başlıyor; self-servis platform ardından gelecek ve uyarlanmış modeller Cloudflare üzerine yeniden konuşlandırılacak. Blog ayrıca Clef'in kökenlerini, Jev'in yayınlandığı hafta yayınlanan ve DiffusionGemma modelini logprob'larından belirsizlik içermeyen (deterministic) olasılıklar üretecek şekilde uyarlayan deneylere kadar izliyor.

Neden önemli

Karar modelleri, yapay zeka mühendisliğindeki gerçek bir maliyete saldırıyor: basit yönlendirme kararları için büyük, belirsizlik içeren bir LLM kullanmak yavaş ve pahalıdır. Onlarca milisaniyede tipli soruları yanıtlayan, pekiştirmeli öğrenmeyle fine-tuning edilebilen ve izin veren bir açık kaynak lisansıyla gelen bir model, ekiplere pratik bir alternatif sunar — Jev uyumlu API ise geçiş maliyetlerini düşük tutar. Typesafe, Cloudflare ve diğerleri artık aynı kamusal kıyaslamalarda yarıştığına göre, yapılandırılmış karar verme, agent yığınlarında ayrı bir ve emtialaşmış katman haline gelmeye hazırlanıyor.