Sohbet, kodlama ve ses için çevrimdışı yapay zekâ: Bugün çalışan yerel stack ve sınırları

Bir yönde birden fazla lansman

Yapay zekâdaki yerleşik varsayım, yetenekli modellerin başkasının veri merkezinde yaşadığı ve token başına ücretle kiralandığı yönündeydi. 24 Ekim 2026'da yayımlanan bir dev.to analizine göre bu varsayım artık sarsılıyor: yaklaşık 48 saat içinde tamamen çevrimdışı çalışan bir ses stack'i, 428 milyar parametreli açık ağırlıklı bir sürüm (MiniMax'in M3.1 Flash'ı), ChatGPT için PIN kilidi ve şifreli yeni bir asistan üst üste geldi. Yazar — satıcı duyuruları ve lansman haftası haberlerine dayanarak çalışan, el denemeleri yapmayan — net bir sonuca varıyor: yerel yapay zekâ, hobici uğraşı olmaktan çıkıp günlük sohbet, kodlama yardımı ve ses için pratik bir şeye dönüştü; sınırları ise en üst düzeyde kendini gösteriyor.

Ses telefona taşındı

dev.to'ya göre merkezi unsur, 23 Ekim 2026'da Madrid'de tanıtılan VoxNexus'un VoxEdge'idir: ucuz Android donanımında ağ bağlantısı olmadan çalışan eksiksiz bir ses stack'i. 36 dilde konuşma tanıma, 103 dilde çeviri ve 45 dilde konuşma sentezi sunuyor. Tanıma modeli yalnızca 65 milyon parametre ve VoxNexus, kendi boyutunun on katı açık modelleri geride bıraktığını iddia ediyor — makale bu satıcı iddiasını açıkça doğrulanmamış olarak işaretliyor. Yardımcı katman VoxSense sürekli dinlemeyi yönetiyor; VoxNexus pilin %2,49'u ile 12 saat çalışma süresi bildiriyor — bu da doğrulanmamış — ve ses hiçbir zaman yüklenmiyor.

Zamanlama, 19 Ekim'de MediaTek'nin Dimensity 9600 lansmanını izliyor; dev.to bunu enabling bağlam olarak okuyor: daha iyi orta segment çipler, bu stack'i amiral gemileri yerine ucuz telefonlarda makul kılan şey. VoxNexus'un CEO'su motivasyonu tek cümlede özetledi: "Kaynakları az diller, küçük diller değildir" — on milyonlarca konuşucusu olan diller, İngilizce öncelikli bulut altyapısından hâlâ yetersiz hizmet alıyor.

Dış kanıtlar talebin gerçek olduğunu gösteriyor. Yazıda atıf yapılan Nasscom'un India Voice AI Readiness 2026 raporu, kuruluşların %31'inin ses yapay zekâsını sınırlı üretimde, %13'ünün ölçekte çalıştırdığını; %61'inin etkileşim başına %20'nin üzerinde maliyet azaltımı bildirdiğini buldu. Hindistan'ın BHHASHINI programı, özel bir çevrimdışı, düşük bağlantılı ses yapay zekâsı yarışması düzenledi — güvenilir internet olmadan çalışmanın artık bir tedarik gereksinimi olduğunun işareti.

Tek gizlilik sorusuna üç yanıt

Aynı hafta, "buna söylediklerimi başkası görebilir mi" sorusuna üç farklı yanıt üretti. OpenAI, 23 Ekim'de ücretsiz katman dahil ChatGPT için konuşma PIN kilidini dağıtmaya başladı. dev.to'nun dikkatle belirttiği gibi bu, uygulamanın kilidi, uçtan uca şifreleme değil: konuşmalar normal sağlayıcı politikaları kapsamında yine de bulut altyapısına gidiyor ve orada duruyor. Sizi odadaki insanlardan korur, sunucuları işletenlerden değil.

22 Ekim'de duyurulan Dark.ai ters yaklaşımı savunuyor: kendi kontrolündeki altyapıda çalışan şifreli bir asistan. Makale, iddialarını benchmark iddialarına gösterdiği aynı şüpheyle ele alıyor. Üçüncü yanıt ise sunucuyu denklemden tamamen çıkarmak — çevrimdışı bir stack'in yaptığı tam olarak bu.

Stack, katman katman

dev.to, "yapay zekâyı çevrimdışı çalıştır" ifadesini dört karara bölüyor. Birincisi bir runtime: Ollama en basit geliştirici giriş noktası; bulut API'si çağırmış herkese tanıdık gelen yerel bir API sunuyor. LM Studio, bellek kullanımı önizlemeleriyle daha dostane bir grafik masaüstü sunuyor; llama.cpp, ekosistemin büyük kısmının altındaki verimli, taşınabilir motor; Jan ve GPT4All yerel öncelikli masaüstü seçeneklerini tamamlıyor. Buradaki dürüst dezavantaj ise bakım işi — indirmeleri, güncellemeleri ve disk alanını siz yönetiyorsunuz ve destek, GitHub issue'ları ile topluluk forumları anlamına geliyor; işletmeler bunu maliyete katmalı.

İkincisi modeller: açık ağırlıklar artık telefon boyutlu sürümlerden, laptoplar için yetenekli 7B-14B sınıfı modellere ve tepede büyük mixture-of-experts sürümlerine uzanıyor. Ödünleşim tutarlı — yerel olarak çalışacak kadar küçük her şey şu anda en iyi bulut modelinden daha az yetenekli ve modelleri daha az belleğe sikan quantization, donanım farkını daraltırken bir miktar kaliteye mal oluyor.

Üçüncüsü ses: VoxEdge, cihaz üzerinde konuşma tanıma ve sentezin artık ucuz donanımda inandırıcı olduğuna işaret ediyor; bu, kiosklar, sahada çalışanlar, düşük bağlantılı bölgelerdeki klinikler ve sesinin yüklenmesini istemeyen kullanıcılar için relevant. Dördüncüsü, serving engine'ler; bunlar bireysel laptoplar için değil, tek makineyi çok kullanıcıya sunan ekipler için önemli.

Dürüst sınırlar

Analize göre sınıra ait的东西 hâlâ bulut: en akıllı modeller, en uzun bağlamlar ve en zor akıl yürütme barındırılmış olarak kalıyor ve en büyük indirilebilir modeller, bir şey yapmadan önce yaklaşık 220GB disk alanı gerektirebiliyor. Yerel stack'ler için satıcı destek masası yok.

Neden önemli

Gizlilik ve maliyet bilincindeki geliştiriciler için pratik ayrım artık uygulanabilir: rutin sohbet, kodlama yardımı ve ses işlerini hız, veri kontrolü ve token başına sıfır ücret için yerel olarak çalıştırın; bulut harcamasını gerçekten en üst düzey yetenek gerektiren işler için ayırın. Bu aynı zamanda kimin fayda gördüğünü yeniden çerçeveliyor — kaynakları az diller ve düşük bağlantılı bölgeler, bulut yol haritasının erteleyip durduğu araçlara kavuşuyor. Bulut, ön koşul olmaktan çıkıp bilinçli bir tercihe dönüşüyor.