Açık kaynak ENZO, kendi anahtarını getir ajanlarıyla 300'den fazla AI modelini self-host olarak çalıştırıyor

Ne yayınlandı

theguysudo adıyla paylaşım yapan bir geliştirici, bir Show HN gönderisiyle Hacker News ana sayfasına ulaşan self-host AI çalışma alanı ENZO'yu açık kaynak yaptı. Projenin GitHub README'sine göre platform, OpenRouter, Google AI Studio, NVIDIA NIM, Groq, Hugging Face, Cloudflare ve Gemini gibi dokuz sağlayıcıdaki 300'den fazla modele tek bir sohbet arayüzü sunuyor ve bunun üzerine ajan oluşturma, araştırma ve kod üretme araçlarını katıyor.

Temel tasarım kararı bring-your-own-key yaklaşımı. Bir mesaj gönderdiğinizde istek, tarayıcınızdan ENZO üzerinden seçtiğiniz sağlayıcıya gidiyor ve o sağlayıcıya normal fiyatını ödüyorsunuz. README, arada kesinti alan bir katman bulunmadığı için ENZO hesabının, kullanım ölçümünün ve aboneliğin olmadığını vurguluyor.

Tek çalışma alanı, birden fazla yüzey

Kurulum bilinçli olarak minimal: repoyu klonlayın, docker compose up -d çalıştırın ve uygulamayı localhost'ta açın. README, hesap, zorunlu environment variable ya da ayrı bir veritabanı sunucusu gerekmediğini belirtiyor.

Uygulama birkaç yüzey etrafında düzenlenmiş. Bir Terminal, normal, düşünme, araştırma ve kodlama modlarında akan sohbet sunuyor ve model kataloğuna erişilemediğinde bunu işaretleyen canlı bir sağlık izi içeriyor. Bir marketplace görünümü tüm sağlayıcılardaki kataloğu birleştiriyor ve indirme sayılarını, lisansları ile benchmark'ları gösteriyor. Bir kod üretme yüzeyi proje yazıyor, başlatıyor, canlı önizliyor ve bozulduğunda bildiriyor. Bir araştırma modu, kendi sorgularını yazan, bulduklarını okuyan ve ne zaman duracağına karar veren bir döngü çalıştırıyor — anahtarınızı tüketememesi için katı bütçeler altında. Ayrıca anahtarsız bir müzik çalar ve anahtarları yönetmek için bir Vault var.

Kendi kendine taslak hazırlayan ajanlar

README'ye göre ajan oluşturucu iki geçişte çalışıyor. Bir analiz geçişi, düz İngilizce bir görevin alanını okuyor ve bir kullanım kılavuzunun kapsaması gereken örtük bilgiyi, karar buluşlarını ve uç durumları çıkarıyor; ardından bir taslak geçişi bu kılavuzu yazıyor. Taslağın modele ihtiyacı olduğunda yaklaşık on ücretsiz aday aynı anda ateşleniyor ve ilk yanıt veren kazanıyor, geride kalanlar iptal ediliyor ve bir skor tablosu gelecek yarışları yeniden sıralıyor — bu, ölü veya hız limitine takılan ücretsiz katmanlara karşı bir güvence. Ajanlar, kendilerini fiilen hangi modelin yazdığını kaydediyor ve ajan başına bir sinir katmanı, her 90 saniyede bir alanla eşleşen etkinliği katmaya devam ediyor.

Yetmiş dört alan becerisi paketle birlikte geliyor ve kod tabanı, v1.0.0'dan v1.4.0'a kadar beş sürüme yayılan yaklaşık 44.000 satır strict TypeScript olarak tanımlanıyor.

Güvenlik iddiaları ve bir uyarı

Proje, güvenlik dosyasında yazılı bir tehdit modeli belgeliyor. Sağlayıcı anahtarları, çıkarılamayan bir WebCrypto anahtarıyla tarayıcıda AES-256-GCM ile mühürleniyor ve isteğe bağlı bir parola modu, her şeyi 600.000 iterasyonla PBKDF2 ile yeniden mühünlüyor. CI kontrolleri tek kişilik bir proje için sıra dışı: bir pipeline aşaması frontend'te ham localStorage anahtar okumalarını tarıyor ve bir eşleşmede build'i başarısız kılıyor ve her push, auth bypass, IDOR, düşmanca yükler ve stream bütünlüğünü kapsayan 44 assertion'lık bir black-box pentest ile sunucunun sağlayıcı anahtarı olmadan açıldığının kanıtını tetikliyor.

Bir ödünleşim açıkça belirtiliyor. Yeni bir self-host kurulumunda, yapıştırdığınız ilk doğrulanmış anahtar örneği sahipleniyor ve zamanlanmış ajanlar gibi sunucu tarafı özelliklerin açılması ile yeniden başlatmalarda korunması için container ortamına yazılıyor. Bu sahiplenme penceresinden hoşlanmayanlar için compose ortamında bir sağlayıcı anahtarını önceden yerleştirmek önerilen alternatif.

Hosted demo ve Colab seçeneği

Self-hosting'in ötesinde proje, aynı kodu çalıştıran bir hosted örneğine işaret ediyor ve repoyu klonlayıp uygulamayı kurup derleyip başlatan, ardından bir tarayıcı URL'si ile diğer cihazlardan çalışan bir Cloudflare tunnel bağlantısı veren bir Google Colab notebook'u yayınlıyor. Notebook, Colab'ın yaklaşık 90 dakikalık boşta kalma sayacına karşı bir keep-alive ve sunucu ölürse yeniden başlatan bir watchdog kuruyor; hepsi ücretsiz Colab'ın oturum başına yaklaşık 12 saatlik sınırı içinde. Oraya yapıştırdığınız anahtarlar sizin kalıyor ve oturum sona erdiğinde VM'deki her şey kayboluyor.

Neden önemli

Çoğu hosted AI çalışma alanı kullanımı ölçüyor, anahtarlarınızı kendi sunucularında tutuyor ya da özellikleri aboneliklerin arkasına koyuyor; birçok self-host alternatifi ise çok servisli kurulumlar gerektiriyor. ENZO'nun önerisi — birleşik bir katalog, tek bir kurulum komutu, hosted modda sunucuya hiç ulaşmayan anahtarlar — kendi altyapısında ajan araçları isteyen geliştiriciler için tutarlı bir karşı öneri. CI ile zorunlu tutulan pentest ve yazılı tehdit modeli de çoğu açık kaynak projenin zahmet etmediğinden daha somut. Her zamanki uyarı geçerli: buradaki her rakam ve güvenlik iddiası projenin kendi README'sinden geliyor ve self-host yapan herkes, üretim anahtarlarını yapıştırmadan önce özellikle örnek sahiplenme davranışına dikkat ederek o tehdit modelini okumalı.