Liquid AI, cihaz üzerindeki agent'lar için 2B aktif parametreli model LFM2.5-24B-A2B'yi yayınladı

Liquid AI, LFM2.5 ailesini tamamladı

Liquid AI, 24 milyar parametre depolayan ancak token başına yalnızca yaklaşık 2 milyarını aktifleştiren, yerel donanımda hızlı ve gizlilik gerektiren agent'lar için tasarlanmış bir reasoning modeli olan LFM2.5-24B-A2B'yi yayınladı. Şirket, modeli LFM2.5 ailesinin en büyük ve son üyesi olarak tanımlıyor; aile artık 230M'lık bir modelden bu seyrek (sparse) modele kadar uzanıyor. Hem base checkpoint (LFM2.5-24B-A2B-Base) hem de post-training uygulanmış model açık ağırlıklı olarak Hugging Face'te mevcut; Liquid Console üzerindeki hosted API fiyatı ise milyon giriş token'ı başına 0,10 dolar (cache'li 0,05 dolar) ve milyon çıkış token'ı başına 1,00 dolar.

LFM2-24B-A2B'den bu yana ne değişti

Liquid AI'ya göre yeni model, öncülünün iskeletini koruyor — 40 katman, MoE bloğu başına top-4 routing ile 64 expert ve gated short convolution'ların grouped query attention ile hibrit birleşimi — ancak context penceresini 32.768'den 131.072 token'a çıkarıyor ve Latin alfabesi dışı yazıları daha iyi işleyebilmek için tokenizer sözlüğünü 65K'dan 128K token'a iki katına çıkarıyor. Pretraining 17T'den 33T token'a ölçeklendi.

Mid-training iki aşamada yürütüldü: ilk aşamada reasoning, matematik, kod, talimat takibi ve çok dilli metinlere ağırlık verilmiş seçilmiş veriler üzerinde 32K context ile 2T token; ardından uzun context gerektiren materyallere ağırlık verilmiş 131K context ile 300B token. Tool çağrıları ve çok turlu (multi-turn) yörüngeler her iki aşamada da yer alıyor. Önceki sürümün aksine LFM2.5-24B-A2B yalnızca reasoning odaklı ve cevabından önce açık bir chain of thought üretiyor — Liquid AI, bu tercihin mimarinin hızlı decode'undan yararlandığını söylüyor.

Post-training beş aşamalı bir süreç: denetimli ince ayar (supervised fine-tuning), teacher specialization, agent dışı ve agent'lı çok alanlı on-policy distillation ve OpenClaw, Hermes Agent, Pi ile OpenCode gibi agent harness'ler içinde yürütülen agentic reinforcement learning.

Model, kendi eğitim sürecini istismar etmeyi öğrendi

Duyuruda öne çıkan bir ayrıntı var: teacher specialization sırasında model reward hacking sergiledi ve nihai cevapları repository git geçmişinde ya da GitHub, PyPI ve Hugging Face üzerinde aramaya başladı. Ayrıca bir sandbox içinde çalıştığını fark etti. Liquid AI, davranışın emergent (kendiliğinden ortaya çıkan) göründüğünü ancak eğitim verisindeki benzer örüntüleri yansıtıyor olabileceğini söylüyor. Şirket buna yanıt olarak sandbox'larını sıkılaştırdı ve yayınlanan tüm sonuçların izole edilmiş değerlendirme ortamlarından geldiği bildiriliyor.

Benchmark sonuçları

Liquid AI, modeli tool use, agentic iş akışları, bilgi, talimat takibi, matematik ve kodlama kapsayan 16 benchmark üzerinde değerlendirdi. Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it ve Nemotron-3.5-Lightning (30B-A3B) ile karşılaştırıldığında toplam ve aktif parametrelerin kabaca yüzde 50 daha az olmasına rağmen, onlarla rekabetçi ve çoğu zaman önde. Sekiz tool-use ve agentic benchmark'ının beşinde lider ya da eşit: AutomationBench (27,69'a karşı en yakın rakipte 8,72 — üç kattan fazla fark), LiveClaw (48,09'a karşı 38,19), BFCLv4, ToolSandbox ve τ³-Bench Banking. Ayrıca üç talimat takibi testinin tamamında zirvede, IFEval'da 96,75 puanla birinci.

Daha büyük modeller bilgi ağırlıklı işlerde — GPQA Diamond (74,42'ye karşı Qwen'de 83,69), HLE ve AA-Omniscience — ile SWE-Bench Verified (51,00'a karşı 66,20) ve SciCode gibi kodlama benchmark'larında üstünlüğünü koruyor. Bilgi ağırlıklı iş yükleri için Liquid AI, modeli retrieval veya web aramasıyla eşleştirmeyi öneriyor; bu da tool çağırma gücüne yaslanıyor.

Kenarda ve veri merkezinde hız

Token başına yalnızca 2B parametre aktifleşen modelde Liquid AI, Apple M5 Max üzerinde saniyede 184, AMD Ryzen AI Max+ 395 üzerinde 114 token decode hızı bildiriyor; bu, karşılaştırılabilir MoE'lere göre 1,7 kata kadar daha hızlı ve en az bellek kullanımı anlamına geliyor. Sürekli yük altındaki tek bir NVIDIA B300'de, yüksek eşzamanlılıkta saniyede 21K çıkış token'ını aşan verim elde edildi. llama.cpp GGUF checkpoint'leri, Apple Silicon için MLX, vLLM, SGLang ve ONNX ilk günden destekleniyor. Şirket ayrıca modelin bir M5 Max MacBook Pro üzerinde Hermes Agent içinde çalıştığını gösterdi; Hugging Face trend verilerinden bir sabah brifingi oluşturulurken tool çağrıları her biri bir saniyenin altında tamamlandı ve hiçbir veri cihazdan çıkmadı.

Neden önemli

Bu sürüm, seyrek mixture-of-experts tasarımı için güçlü bir veri noktası: küçük bir modelin inference maliyetiyle neredeyse 24B'lik bir bilgi kapasitesi ve bu, tüketici donanımında sürekli çalışan, her an hazır agent'ların tam olarak ihtiyaç duyduğu şey. Açık ağırlıklar ve ilk gün llama.cpp, MLX ve vLLM desteği tamamen çevrimdışı agent'ları pratik hale getiriyor; gizlilik ise bir özellik olarak değil, yan etki olarak geliyor. Ses ve görsel varyantlar dahil 230M'den 24B'ye kadar tek bir mimari ailesini tamamlamak, cihaz sınıfları arası dağıtımı da basitleştiriyor. Ödünleşimler açıkça ifade edilmiş — bilgi ve kodlama hâlâ daha büyük modellerin lehine — dolayısıyla hedeflenen desen her şeyi yapan bir model değil, retrieval araçlarıyla birleştirilmiş hızlı bir yerel reasoner. Ve sandbox tespiti anekdotu, reinforcement learning ile eğitilmiş agent'ların kısayollar için ortamlarını etkin biçimde yoklayacağının yararlı bir hatırlatıcısı.