Bolnee-Chat: Self-Hosted RAG Chatbot Platformu Herhangi Bir OpenAI Uyumlu Sağlayıcıyla Çalışıyor

Hacker News'te Show HN gönderisi olarak yeni bir açık kaynak projesu ortaya çıktı: Bolnee-Chat, iş web sitelerine retrieval-augmented chatbotlar eklemek için self-hosted bir platform. Projenin GitHub deposuna göre araç ücretsiz çalışıyor, her şeyi SQLite'ta saklıyor ve OpenAI uyumlu bir API sunan her sağlayıcıyla çalışıyor.

Ne yapıyor

Öngörülen iş akışı dört adımdan oluşuyor. Önce bir bot oluşturup ona bir isim, avatar ve karşılama mesajı veriyorsunuz. Ardından platforma bir web sitesi URL'si göstererek, dosya yükleyerek veya her ikisini birden yaparak bilgi ekliyorsunuz — desteklenen formatlar arasında PDF, TXT, Markdown ve DOCX var. Üçüncü adımda, OpenRouter, OpenAI, Groq, Ollama ve vLLM'nin yer aldığı bir listeden bir LLM sağlayıcısı yapılandırıyorsunuz. Son olarak, iki satırlık bir embed snippet'ını — küçük bir yapılandırma nesnesi ve bir script tag'i — sitenizin kapanış body tag'inden önce yapıştırıyorsunuz.

README, projeyi mesaj başına faturalandırma ve sağlayıcıya bağımlılık (vendor lock-in) konumuna karşı konumlandırıyor: her şey kendi altyapınızda çalışıyor ve tek tekrarlayan maliyet, seçtiğiniz model sağlayıcısına ödediğiniz tutar.

Yanıtlar nasıl temellendiriliyor

Bolnee-Chat, retrieval-augmented generation etrafında kurulmuş. Bir Python crawler'ı sitenizi aynı origin içinde geziyor, robots.txt'ye saygı gösteriyor, başlıkları ve gövde metnini çıkarıyor, içeriği tekilleştiriyor ve sonuçları bir JSON dosyasına yazıyor. Taranan sayfalar ve yüklenen belgeler daha sonra parçalara bölünüp SQLite'ın tam metin arama dizinine ekleniyor. Bir ziyaretçi soru sorduğunda sistem eşleşen parçaları getiriyor, temellendirilmiş bir prompt oluşturuyor ve yanıtı server-sent events ile kaynakları göstererek widget'a akıtıyor. Yapılandırılabilir bir fallback mesajı, bilgi tabanında hiçbir şeyin eşleşmediği soruları karşılıyor.

Dashboard, widget ve sohbet geçmişi

Yönetim konsolu; canlı önizlemeli görünüm düzenleme, bot başına istatistikler, kuyruktan tarama ve ayrıştırmadan dizinlenmeye uzanan durum hattıyla bilgi yönetimi ve sağlayıcı ayrıntıları, varsayılan mesajlar ile bot silme ayarlarını kapsıyor. Ziyaretçi konuşmaları ziyaretçiye ve tarihe göre gruplanıyor ve CSV, JSON veya PDF olarak dışa aktarılabiliyor.

Genel tarafta, gömülebilir widget, açılır-kapanır bir sohbet penceresi açan yüzen bir balon olarak görünüyor; açık, koyu veya otomatik tema seçeneği sunuyor. Bir ziyaretçi tanımlayıcısını ve sohbet geçmişini localStorage'da tutuyor; böylece karşılama mesajı bir kez gösteriliyor ve konuşmalar pencere kapansa da korunuyor.

Gereksinimler ve güvenlik notları

Kendiniz çalıştırmak için Node.js 18 veya daha yenisi ve npm gerekiyor; crawler için aiohttp, beautifulsoup4 ve lxml gibi paketlerle Python 3.10 isteğe bağlı ama öneriliyor, JavaScript ağırlıklı siteler için Playwright mevcut. Proje düz bir sunucuda, Vercel'de veya Cloudflare Pages'te dağıtılabilir ve SQLite veritabanı ilk çalıştırmada oluşturuluyor.

İki uygulama detayı öne çıkıyor. Sağlayıcı API anahtarları istirahatte AES-256-GCM ile şifreleniyor ve README'ye göre embed snippet'ında hiçbir zaman görünmüyor. Öte yandan, hızlı başlangıç yapılandırması en basit tek kullanıcılı kurulum için kimlik doğrulamayı devre dışı bırakan bir ortam bayrağı ayarlanmasını öneriyor — dashboard'u herkese açık dağıtacak herkes, onu internete açmadan önce bunu dikkatle düşünmeli.

Neden önemli

Hosted chatbot servisleri genellikle konuşma başına, koltuk başına veya mesaj başına ücret alıyor ve ziyaretçi verilerinizi ellerinde tutuyor. Bolnee-Chat bu modeli tersine çeviriyor: yazılım ücretsiz, veri altyapınızdaki bir SQLite dosyasında kalıyor ve modeli siz seçiyorsunuz — gizlilik duyarlı dağıtımlar için Ollama veya vLLM gibi tamamen yerel seçenekler dahil. Kendi belgelerine dayanan bir destek widget'ı isteyip de bir RAG hattını sıfırdan kurmak istemeyen geliştiriciler için bu, pratik bir başlangıç noktası gibi görünüyor; genç bir açık kaynak projesinin prodüksiyon trafiğini üstlenmeden önce incelenmeyi hak ettiği yönündeki olağan uyarıyla birlikte.