· kaynak dev.to (home feed)
llama.cpp v1.0.0'a ulaştı: libllama ve libggml'e API kararlılığı ve semantik sürümleme geliyor
llama.cpp çekirdek kütüphanelerinin v1.0.0 sürümünü yayımladı; semantik sürümleme altında kararlı bir API, FP8 KV önbellekleri ve yerleşik metinden sese desteği vaat ediyor.

llama.cpp 1.0'a ulaştı
Dil modellerini yerel olarak çalıştırmak için en yaygın kullanılan açık kaynak motorlardan biri olan llama.cpp, çekirdek kütüphanelerinin 1.0.0 sürümünü yayımladı. 16 Kasım 2026 tarihli dev.to yazısına göre bu kilometre taşı libllama ve libggml için geçerli ve semantik sürümlemeyi getirerek geliştiricilere yerel çıkarımı (inference) destekleyen kütüphaneler için nihayet kararlı bir API sözleşmesi sunuyor.
Nihayet kararlı bir API
Bu değişiklik uzun süredir devam eden bir sorunu ele alıyor. llama.cpp'nin çekirdek kütüphanelerini doğrudan uygulamasına bağlayan herkes, sık yapılan API değişikliklerinin peşinden koşmak zorunda kaldı ve bu durum projeyi ciddi herhangi bir iş için bağımlılık olarak riskli hale getirdi. dev.to gönderisinde açıklanan düzene göre, bozucu değişiklikler büyük sürüm artışını tetikleyecek, geriye dönük uyumlu özellikler ve model güncellemeleri ikincil (minor) sürümler olarak gelecek ve hata düzeltmeleri yama (patch) sürümleri olarak yayımlanacak. Öngörülebilirliğin anlamı tam olarak bu: aşağı akıştaki projeler artık yükseltmelere hazırlanmak yerine onları planlayabilir.
Kaputun altındaki performans çalışmaları
Sürümleme dışında bu sürüm, gelişmiş modelleri tüketici donanımında çalıştırmaya yönelik performans özellikleri de içeriyor. dev.to yazısı FP8 (E4M3) KV önbelleklerini öne çıkarıyor; bu önbellekler dikkat (attention) anahtar-değer önbelleğini daha düşük hassasiyetli sayısal biçimde saklıyor. Ayrıca MoE mimarileri için yapılandırılabilir CPU payına sahip ana bellek tabanlı bir Mixture-of-Experts uzman önbelleği bulunuyor.
Multimodal genişleme
Multimodal destek de önemli bir güçlenme yaşıyor. llama-server artık OpenAI uyumlu bir /v1/audio/speech endpoint'i sunuyor, böylece metinden sese dönüşüm ayrı bir servis olmadan doğrudan yerel bir llama.cpp örneğinden çalışabiliyor. Sürüme yeni metin ve görüntü modelleri desteği eklendi — gönderide Kimi-K3.1-Pro ve Gemma 4 akış (streaming) ses girişi adı geçiyor — ve multimodal işleme, projenin mtmd altyapısındaki değişikliklerle tek bir çatı altında toplanıyor. Qwen3-TTS-12Hz-1.7B-Base-GGUF gibi TTS modellerini çalıştırabilen ayrı bir llama-tts aracı var; ancak yazıda bazı modellerin en iyi ses kalitesi için bir konuşmacı referans ses dosyasına ihtiyaç duyabileceği belirtiliyor.
Derleme ve çalıştırma
Tipik iş akışı hâlâ kaynak koddan derlemek anlamına geliyor: bir C++ derleyicisi, cmake ve git, ayrıca pek çoğu Hugging Face'te barındırılan GGUF biçiminde bir model. llama-cli çalıştırılabilir dosyası -hf bayrağıyla modelleri kendisi indirebilir, --chat-template seçeneğiyle etkileşimli sohbet çalıştırabilir veya tek seferlik prompt'ları ele alabilir. Apple Silicon'da gönderi, GPU hızlandırma için Metal backend'inin etkinleştirilmesini öneriyor; NVIDIA ve diğer GPU'lar için CUDA ve Vulkan mevcut. Listelenen yaygın sorunlar arasında eksik derleme araçları, binary dosyanın doğru backend olmadan derlenmesi nedeniyle boşta bekleyen GPU'lar ve büyük modellerde bellek yetersizliği hataları var — bunlar Q4_K_M gibi daha küçük bir quantization seçmek veya bağlam (context) boyutunu küçültmek gibi yollarla çözülebilir.
Dikkat edilmesi gerekenler
İki noktaya değinmekte fayda var. Birincisi, llama.cpp özünde hâlâ bir komut satırı aracı; yazı, GUI ve kutudan çıktığı gibi daha fazla soyutlama isteyen kullanıcılar için Ollama veya LM Studio'yu önerirken, llama.cpp'yi derin entegrasyon ve yeni özelliklere erken erişim için altın standart olarak nitelendiriyor. İkincisi, dev.to gönderisinin kendisi yapay zeka desteğiyle oluşturulduğunu belirtiyor ve okuyuculardan ayrıntıları birincil kaynaklardan doğrulamalarını rica ediyor — kesin model adları ve derleme bayrakları gibi spesifikler için makul bir ihtiyat.
Neden önemli
Bir 1.0 sürümü genellikle özelliklerden çok güvenle ilgilidir ve burada da durum böyle. Semantik sürümleme, llama.cpp'yi hareketli bir hedeften uygulamaların güvenle bağımlı olabileceği bir şeye dönüştürüyor; bu da kütüphanelerini doğrudan bağlayan, büyüyen yerel ve gizlilik odaklı yapay zeka araçları ekosistemi için önemli. FP8 KV önbellekleri ve daha yetenekli modelleri sıradan donanıma taşıyan MoE önbellekleme gibi verimlilik özellikleriyle, /v1/audio/speech gibi sunucu tarafı multimodal endpoint'lerin birleşimi, bu sürümün yerel çıkarımın bir hobist geçici çözümü değil üretim temeli olabileceği argümanını güçlendiriyor.
- #llama-cpp
- #local-ai
- #llm
- #open-source
- #text-to-speech