deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak Hacker News – Front Page (hnrss.org)

Liquid AI, açık ağırlıklı 2B parametreli çok kipli LFM3 model ailesini duyurdu

Liquid AI, LFM3'ü yayımladı: metin, görüntü, ses ve karar modellerini tek bir ortak omurga üzerinde birleştiren, yaklaşık 2B parametreli, 22T token üzerinde ön eğitilmiş ve açık ağırlıklarla sunulan bir model ailesi.

Liquid AI, açık ağırlıklı 2B parametreli çok kipli LFM3 model ailesini duyurdu

Liquid AI, Liquid Foundation Models'ın üçüncü nesli olan LFM3'ü duyurdu: metin, görüntü, ses, omni ve karar modellerini tek bir ortak omurga üzerinde birleştiren, yaklaşık 2 milyar parametreli bir model ailesi. Hacker News'in ana sayfasına çıkan şirket duyurusuna göre temel ve post-train edilmiş modeller açık ağırlıklı ve şu anda Hugging Face'te, Liquid AI Playground'da ve Liquid AI API üzerinden erişilebilir durumda.

Tek omurga, altı uzmanlaşmış model

İlk LFM3 sürümü, tümü aynı LFM3-1.7B-Base checkpoint'inden dallanan ve tamamı yaklaşık 2B parametre çizgisinde duran altı modelden oluşuyor. Dördü farklı girdi kiplerini kapsıyor — metin, görüntü, ses ve bir omni model — geri kalan ikisi ise görüntü ve omni varyantlarından uzmanlaştırılmış karar modelleri. Liquid AI'nın savunusu şudur: geliştiriciler her şey için tek bir büyük genel amaçlı model çalıştırmamalı; bunun yerine kullanım senaryosuna uygun varyantı seçip onu fine-tune etmeli ve cihaz üzerinde çalıştırmalı.

Donanım aramasıyla ayarlanmış üç melezli mimari

LFM2, kısa konvolüsyonların attention ile karıştırılmasının hızlı cihaz içi çıkarım sağlayabileceğini göstermişti. Liquid AI, LFM3 için bu melez yapıyı otomatik donanım-döngü-içi mimari aramasını kullanarak yeniden tasarladığını, parametre başına daha fazla yetenek gerektiren agentic iş yüklerini ve uzun bağlamlar üzerinde hızlı çıkarımı hedeflediğini söylüyor.

Aramanın kapsamı da genişledi: LFM2 tek bir telefonda ve tek bir dizüstü bilgisayardaki CPU'lara göre ayarlanırken, LFM3; Samsung Galaxy S26 Ultra, OnePlus 15, Raspberry Pi 5, Apple M4 Max ve AMD Ryzen AI dizüstü bilgisayarlar, Arm ve x86 bulut CPU'ları, GPU'lar ve Qualcomm Hexagon NPU dahil olmak üzere 14 cihaz ve arka uç kombinasyonu üzerinde optimize edildi.

Sonuç, şirketin üç melezli katman karışımı dediği şey. LFM3'ün 24 katmanından 13'ü gated kısa konvolüsyon (kernel boyutu 3'ten 7'ye çıkarıldı), 5'i 256 token pencereli sliding-window attention ve 6'sı global attention. Üç önemli değişiklik daha öne çıkıyor:

  • Head-wise gated attention: bir sigmoid kapak her head'in çıktısını ölçekliyor, böylece bir head etkili biçimde kapanabiliyor — Liquid AI bunun quantization'ı zorlaştıran aktivasyon aykırı değerlerini bastırmaya yardımcı olduğunu söylüyor.

  • Global attention katmanlarında partial RoPE: her head'in yalnızca yüksek frekanslı yarısı döndürülüyor, böylece bazı boyutlar mesafeden bağımsız olarak içerikte eşleşebiliyor; sliding-window katmanları tam RoPE'yu koruyor.

  • Sandwich norm: her bloğun girdisi ve çıktısı normalize edilerek aktivasyonlar iyi ölçekli tutuluyor.

Model, LFM2.5-8B-A1B ile tanıtılan ve Latin alfabesi dışındaki yazıları daha verimli tokenize etmek için tasarlanmış 128K kelimeliği koruyor. Verimlilik tarafında Liquid AI, LFM3-1.7B'nin kısa prompt'larda LFM2-1.2B ile eşit olduğunu ve bağlamda 8K token ile yaklaşık %25 daha hızlı olduğunu bildiriyor.

Ajanlar için tasarlanmış eğitim

LFM3-1.7B-Base, 22T token üzerinde ön eğitildi; veri karışımına bilimsel makaleler, repository düzeyinde kod, daha geniş bilgi kaynakları ve LFM2'dekine kıyasla epey fazla matematik eklendi. Son 3.5T token, daha büyük payda agentic izler ve çeşitli araç çağrıları içeren, seçilmiş daha kaliteli veriyle yürütülen bir mid-training aşaması oluşturuyor; bu aşama bağlam penceresini de 256K token'a genişletiyor.

Metin modeli; Hermes Agent, Pi ve OpenClaw gibi ajan iskeletleri içinde çalışacak şekilde post-train edildi; örnek görevler arasında gelen kutusu triyajı, takvim yönetimi, web araştırması ve binlerce seçenek arasından doğru aracı bulma yer alıyor.

Kıyaslamalar: ajanlarda güçlü, bilgide zayıf

Liquid AI'nın yayımladığı kıyaslama tablolarında LFM3-1.7B, raporlanan takımlar genelinde ortalama 49,37 alıyor; bu skor Qwen3.5-9B'nin 47,24'ünün önünde ve selefi LFM2.5-2.6B'nin 31,55'inin epey önünde. Talip takip konusunda (IFEval 96,66) ve fonksiyon çağırma konusunda (BFCL V4 71,39, ToolSandbox 80,36) lider; WebArena-Verified (38,42'ye karşı 28,94) ve AutomationBench (41,29'a karşı 15,10) gibi uzun tarayıcı ve iş uygulaması görevlerinde Qwen3.5-9B'yi geçiyor.

Boşluklar bilgi ve zorlu kodlama tarafında tersine dönüyor: Qwen3.5-9B, GPQA Diamond'da 80,40'a karşı 63,37 ve SWE-bench Verified'da 51,20'ye karşı 43,40 alıyor. Liquid AI, agentic kodlama ve bilgi konularında hâlâ daha büyük modellerin kazandığını kabul ediyor.

Donanım ortakları sıraya giriyor

Duyuruda AMD ve Ambarella da yer alıyor. AMD'den Josh Hort, çok kipli yetenek ile kompakt ayak izinin birleşimini Ryzen AI işlemcilerde yerel AI için uygun bulduğuna işaret ederken, Ambarella'dan Malhar Palkar, Liquid AI'nın LFM2.5-VL modellerinin Cooper Model Garden üzerinden halihazırda Ambarella silikonunda çalıştığını, LFM3 etkinleştirmesinin aynı platform üzerinde sürdüğünü belirtiyor.

Neden önemli

LFM3, üç eğilimin kesişiminde duruyor: yetenekli modellerin küçülmesi, agentic iş yüklerine doğru kayış ve AI'ın buluttan istemci cihazlara taşınması. Liquid AI'nın bahsi, küçük, uzmanlaşmış, açık ağırlıklı bir model ailesinin — yerel olarak fine-tune edilip Raspberry Pi'den bulut CPU'suna kadar her yerde çalıştırılan — birçok gerçek görevde tek parça genel amaçlı modelleri yenmesi; üç melezli tasarım ise standart transformer ötesinde mimari aramada hâlâ gelişme alanı olduğunu göster ediyor. Uyarılar tanıdık: bunlar üreticinin seçtiği kıyaslamalar ve 1.7B'lik bir model bilgi ile kodlamada hâlâ daha büyük rakiplerinin gerisinde. Ama cihaz içi ajanlar geliştirenler için 256K token'lık bağlam pencereli, açık ve verimli bir başlangıç noktası gerçekten kullanışlı bir katkı.

  • #open-weights
  • #multimodal
  • #on-device-ai
  • #foundation-models
  • #liquid-ai

İlgili yazılar