llama.cpp 1.0.0, üç buçuk yılın ardından kalıcı bir public API'ye kavuşuyor

llama.cpp, API'sini 1.0.0'da stabil ilan etti

Yerel çıkarım (inference) motoru llama.cpp, 13 Kasım 2026'da 1.0.0 sürümünü yayımladı ve bu kilometre taşı bir benchmark değil, bir söz ile tanımlanıyor. Sürümü ele alan bir dev.to yazısına göre projenin public API'si artık stabil kabul ediliyor ve kırıcı değişiklikler yalnızca major sürüm artışlarıyla gelecek.

Bu sürüm, ham commit numarasına dayalı sürümlemenin yaklaşık üç buçuk yıllık dönemine son veriyor; bu şema, geliştiricilere bir yükseltmenin entegrasyonlarını kırıp kırmayacağına dair hiçbir sinyal vermiyordu. 1.0.0'dan itibaren llama.cpp, projenin include dizininde sunulan public C API'sine bağlı semantic versioning uyguluyor.

1.0 sürümü neleri kaldırıyor

dev.to yazısına göre sürüm, major sürüm anını kullanımdan kaldırılmış public API'yi budamak için değerlendiriyor: 35 deprecated fonksiyon, warmup setter'ı (llama_set_warmup) ve defragmentasyon eşiği (defragmentation-threshold) seçeneği silindi. NextN speculative-decoding API'si de llama-ext.h extension header'ından ana llama.h header'ına taşındı; böylece artık stabilite kurallarının kapsadığı API'nin içinde yer alıyor.

Yardımcı tensor kütüphanesi ggml de aynı anda kendi v1.0.0 sürümünü yayımladı; deprecated API'si ve eski operasyonları da kaldırıldı.

Sürümleme sözleşmesi net biçimde tanımlanmış: bir MAJOR artışı public C API'de kırıcı bir değişikliğe, bir MINOR artışı geriye uyumlu özelliklere, backend güncellemelerine, model eklemelerine veya API eklemelerine, bir PATCH sürümü ise API değişikliği içermeyen hata düzeltmesine işaret ediyor. Yazıda alıntılanan proje kurucusu Georgi Gerganov, motivasyonu bağımlılık olarak çerçeveledi: her yeni entegrasyon, kütüphane arayüzlerine güvenen daha fazla geliştirici demek, bu yüzden esnek ama stabil bir API en önemli önceliktir.

Sözleşmeyle birlikte gelen yeni özellikler

dev.to yazısına göre sürüm, önemli teknik değişiklikler de içeriyor:

• f8_e4m3 türü üzerinden OCP FP8 KV-cache desteği; opsiyonel statik tensor başına ölçeklerle birlikte, uzun konuşmalarda bellek ayak izini küçültüyor.

• Yapılandırılabilir CPU payıyla host-bellek MoE expert cache'i, büyük GPU'su olmayan makinelerde mixture-of-experts modellerini iyileştiriyor.

• Üç yeni metin mimarisi: Kimi-K3.1-Pro, Ripple ve xing4_0.

• llama-server'da güvenlik sağlamlaştırması: SSRF, CORS ve DNS-rebinding saldırıları için düzeltmeler; HF_TOKEN artık yalnızca huggingface.co hostlarıyla sınırlı.

• llama-server, yani birçok uygulamanın hedeflediği OpenAI uyumlu API sunucusu için yeni bir /v1/audio/speech endpoint'i ve yeniden tasarlanmış bir web arayüzü.

• Unix benzeri sistemler ve Windows için resmi hızlı başlangıç kurulum betikleri.

Proje artık 150'den fazla model mimarisi varyantını destekliyor ve ön derlenmiş artefaktlar Linux, macOS, Windows, Android ve iOS'u kapsıyor; sürüm notlarında dağıtım kanalları olarak Docker, Debian, Homebrew, conda-forge, MacPorts, Winget ve XCFramework listeleniyor.

Yükseltmeden önce bir uyarı

Yazı, 1.0'ın stabil bir sözleşme olduğunu ama her mevcut uygulama için doğrudan takılıp çalışacak bir yükseltme olmadığını belirtiyor. Kaldırılan 35 deprecated fonksiyondan herhangi birini çağıran kod derleme aşamasında başarısız olacak. Geliştiricilerin sürüm notlarını inceleyip bu çağrı noktalarını düzeltmeleri öneriliyor; bunun ardından gelecek yükseltmeler, major sürüm uyarısı olmadan aynı türden bir yeniden düzenleme gerektirmemeli.

Neden önemli

llama.cpp bir model değil; GGUF paketli modelleri CPU'larda, telefonlarda, GPU'larda ve sunucularda çalıştıran, ggml üzerine inşa edilmiş açık kaynak C ve C++ çıkarım motoru. dev.to yazısının da belirttiği gibi, Ollama ve LM Studio dahil yerel AI ekosisteminin büyük kısmının altında yer aldığından API politikası, masaüstü AI araçlarının, özel chatbot'ların, kodlama asistanlarının ve OpenAI uyumlu yerel sunucuların önemli bir bölümü için tabanı fiilen belirliyor.

Stabil bir API, üzerine inşa etmenin ekonomisini değiştiriyor: bir commit hash'ini sabitleyip hiçbir şeyin değişmemesini ummak yerine geliştiriciler yükseltmeleri planlayabiliyor ve downstream projeler kütüphaneyi sürekli yeniden iş yapmak zorunda kalmadan vendor edebiliyor. Bu, yerel çıkarımın bir merak konusundan üretim yoluna olgunlaştığı şu dönemde önemli; cihaz üzerindeki verinin gizliliği, token başına ödeme olmaması, çevrimdışı çalışma ve bir sağlayıcının modeli ya da koşulları bir gecede değiştirmesine karşı bağışıklık gibi avantajlar sağlıyor. 1.0 sürümü motorun tamamlandığı anlamına gelmiyor; çevresindeki ekosistemin artık onun üzerine uzun vadeli inşa edebilmesini sağlıyor.