Tek bir endpoint arkasında beş inference sağlayıcısı artık abliterated DeepSeek modellerini sunuyor

AllModels adlı bir model yönlendirme servisi, Hacker News ana sayfasına ulaşan ve şirketin abliterated model router sayfasına işaret eden bir gönderiye göre, artık tek bir API endpoint'i arkasında abliterated DeepSeek modelleri sunan beş inference sağlayıcısına sahip.

Bu kurulum, geliştiricilerin deepseek/deepseek-v4.1-flash-abliterated gibi tek bir model tanımlayıcısı isteyebildiği ve isteği, uygulama kodunu değiştirmeden, katılımcı beş sağlayıcıdan hangisi uygunsa onun tarafından karşılandığı anlamına geliyor.

Abliteration ne demek

Abliteration, açık ağırlıklı (open-weight) dil modellerinde yerleşik ret davranışını ortadan kaldırmak için kullanılan bir eğitim sonrası (post-training) tekniğidir. Yeni verilerle ince ayar yapmak yerine, uygulayıcılar aktivasyonlarda bir isteği reddetmeye karşılık gelen yönü tespit edip etkisiz hale getirirler. Sonuç, orijinalinin reddedeceği prompt'ları yanıtlayan bir modeldir. Ağırlıklar açık olduğu için ortaya çıkan modeller herkes tarafından çalıştırılabilir ve bu haberde görüldüğü gibi inference sağlayıcıları tarafından ticari olarak barındırılabilir.

Router nasıl çalışıyor

AllModels'a göre servis, OpenAI uyumlu bir API sunuyor; böylece mevcut entegrasyonlar, standart OpenAI SDK'daki base URL ve API anahtarını değiştirerek geçiş yapabiliyor. İki endpoint destekleniyor: mesajları, streaming'i ve function tool'ları kapsayan /oai/chat/completions adresindeki chat completions ve input item'ları, streaming event'lerini, reasoning kontrollerini, yapılandırılmış çıktıyı, custom tool'ları ve barındırılan web aramasını kapsayan /oai/responses adresindeki bir responses endpoint'i.

Şirket, sayfada birkaç yönlendirme davranışı tanımlıyor:

Otomatik fallback. Her istek uyumlu sağlayıcılar arasında yönlendirilir; biri kullanılamıyorsa veya kapasite sıkıntısı yaşıyorsa trafik bir sonraki uygun rotaya düşer. Model kimliği ve uygulama kodu aynı kalır.

Modaliteye duyarlı yönlendirme. Görsel ve multimodal istekler yalnızca bunları gerçekten işleyebilen sağlayıcılara gönderilirken, metin istekleri uygun her metin rotasını kullanabilir.

Fiyata dayalı yönlendirme. AllModels, sağlayıcı fiyatlarını güncel tuttuğunu ve yeni sağlayıcılar devreye girdikçe en düşük maliyetli uygun seçeneğe yönlendirme yapabildiğini söylüyor.

Router'da barındırılan web araması. Arama, isteği hangi inference sağlayıcısının sunduğuna devredilmek yerine AllModels tarafında işleniyor; şirket, bunun sağlayıcısının aramayı yerel olarak sunmadığı durumlarda bile her modele aynı OpenAI uyumlu arama çağrıları ve URL atıfları verdiğini söyluyor.

DeepSeek ötesinde

DeepSeek modelleri kapsanan tek modeller değil. Sayfa ayrıca, tek bir genel model kimliğini paylaşan birden fazla sağlayıcıdan abliterated GLM 5.3 dağıtımlarını listeliyor; belirli bir fiyat veya rate limit önemli olduğunda belirli bir sağlayıcının açıkça sabitlenmesi (pin) seçeneği de var. AllModels, DeepSeek ve GLM'yi, yeni abliterated modeller ve sağlayıcı rotaları devreye girdikçe büyüyecek daha geniş bir kataloğun başlangıç noktası olarak konumlandırıyor.

Listelenen DeepSeek rotası, birkaç bağımsız sağlayıcı tarafından sunulan hızlı bir reasoning modeli olarak tanımlanıyor.

Neden önemli

Tek bir tanımlayıcı arkasında beş sağlayıcı, ana akım barındırılan API'lerin genellikle taşımayacağı bir model sınıfı için kayda değer. Bu, abliterated modelleri production'da çalıştıran herkes için tek sağlayıcıya bağımlılığı ortadan kaldırıyor: bir sağlayıcıdaki kapasite sorunları artık bir uygulamayı çevrimdışı bırakmıyor ve fiyat rekabeti, geliştiricinin barındırma için yeniden pazarlık etmesini gerektirmek yerine yönlendirme katmanında oynanıyor.

OpenAI uyumlu yüzey ayrıca geçiş maliyetlerini neredeyse sıfıra indiriyor, çünkü router'ı benimsemek bir yeniden yazım değil, bir yapılandırma değişikliği. Daha önce sağlayıcıya özgü olan özellikler — fallback, en ucuz rota seçimi ve atıflı web araması gibi — yönlendirme katmanına taşınıyor ve altta yatan her model bu özellikleri devralıyor.

Madalyonun öteki yüzü ise erişim. Sansürsüz açık ağırlıklı modelleri herhangi bir ana akım API kadar kolay tüketilebilir hale getirmek, araştırma, red-teaming, kurgu yazımı ve yoğun içerik filtrelemesi olan bölgelerdeki çalışma gibi meşru kullanımlar için erişimlerini genişletiyor; ama aynı şekilde kötüye kullanım için sürtünmeyi de azaltıyor. Abliterated modeller üzerine süregelen tartışma büyük ölçüde bu denge üzerine ve bu tür servisler erişim tarafını fiilen kolaylaştırıyor.