NVIDIA Kubernetes Engine, sahibi olunan GPU sunucularını yönetilen Kubernetes cluster'larına dönüştürüyor

NVIDIA, operatörün sahip olduğu bare-metal GPU sunucularında Kubernetes cluster'ları oluşturan ve yöneten bir yönetim düzlemi olan NVIDIA Kubernetes Engine (NVKE) adlı projeyi açtı. dev.to'da yayımlanan bir yazıya göre amaç, platform ekiplerinin makineleri hazırlamak, cluster'lar kurmak, kiracıları izole etmek ve bozulan node'ları değiştirmek için tutturucu betikler sürdürmek yerine, kendi donanımlarında yönetilen bir Kubernetes servisine yakın bir şey çalıştırabilmesini sağlamak.

Proje Go ile yazılmış ve Apache-2.0 lisansıyla yayınlanmış. Şu an bir önizleme: API'ler, yapılandırma ve davranış sürümler arasında değişebilir ve proje üretim iş yükleri için önerilmiyor.

Nasıl yapılandırılmış

Bir kurulumda iki tür cluster bulunuyor. Geçici bir seed cluster, nvkectl komut satırı aracıyla bir yönetim cluster'ını önyüklüyor ve yönetim düzlemi servislerini kurmak sonrasında ayrı bir adım. Yönetim cluster'ı daha sonra her biri kendi Kubernetes control plane'ine, kendi etcd'sine ve kendi node havuzlarına sahip workload cluster'larını hazırlıyor.

Makine hazırlama, dev.to yazısında önizlemedeki tek desteklenen altyapı sağlayıcısı olarak gösterilen NVIDIA Infra Controller (NICo) üzerinden geçiyor. Ynetim düzlemi NICo, Cluster API ve bir node agent'ını birleştiriyor ve kendini bir Kubernetes dağıtımı ya da bir Cluster API türü olarak değil, Kubernetes cluster'ları için bir fabrika olarak tanımlıyor.

Kullanıcılar workload cluster'larıyla, NVKE'nin altta var olduğunu bilmeye gerek olmadan düz kubectl ve standart Kubernetes API'siyle konuşuyor.

Yaşam döngüsü, kimlik ve build'ler

NVKE cluster yaşam döngüsünü yönetiyor: NVKE API'si veya nvkectl üzerinden cluster talep etmek, node havuzları oluşturmak ve ölçeklendirmek, Kubernetes'i yükseltmek ve node'ları değiştirmek. Bu adımların bir kısmı önizlemede manuel.

Güvenlik tarafında node'lar, join kimlik bilgilerini almadan önce TPM'leri aracılığıyla SPIFFE/SPIRE ile kendilerini doğruluyor; böylece bir makine bir cluster'a katılmadan önce ne olduğunu kanıtlamak zorunda. etcd verilerinin şifrelenmesi cluster başına kullanılabilir.

Yardımcı bir proje olan NVIDIA Kubernetes Recipes (NVKR), sabitlenmiş girdilerden node imajlarını ve NVKE bileşenlerini build ediyor; NVKE bu artifact'leri dağıtırken build ve sürüm kanıtlarının sahibi NVKR.

GPU olmadan denemek

Değerlendirme GPU donanımı ya da bir NVIDIA hesabı gerektirmiyor. Yerel hızlı başlangıç, simüle edilmiş makinelerde bir geliştirme yönetim düzlemi ve bir workload cluster'ı oluşturuyor. Belirtilen gereksinimler: amd64 veya arm64 üzerinde bir Linux ana makinesi ya da VM, en az 6 CPU, 12 GiB boş bellek, 100 GiB boş disk, Docker ve sanal TPM desteği. macOS'ta değerlendirme bunun yerine bir Colima sanal makinesi içinde çalışıyor.

Gerçek bir kurulum ise kendi makinelerinizi, ağınızı, node imajlarınızı, registry'lerinizi ve NICo erişiminizi getirmek anlamına geliyor. Proje NVIDIA'nın dokümantasyon sitesinde belgeler yayınlıyor ve kod, Go 1.27.3 ve GNU Make 4 veya üzeri ile genel depodan build edilebiliyor.

İki kez okunması gereken uyarılar

dev.to yazısı, bir değerlendirmeden önce bilinmeye değer birkaç sınırlamaya dikkat çekiyor:

API kimlik doğrulaması varsayılan olarak kapalı ve kurulumdan sonra API düz HTTP üzerinden konuşuyor; dolayısıyla herhangi bir çağırıcı alınmadan önce kimlik doğrulama ve korumalı erişim yapılandırılmalı.

Yönetim cluster'ı kendini yükseltmiyor, ölçeklendirmiyor veya değiştirmiyor ve henüz bir yönetim düzlemi yükseltme prosedürü ya da yedekleme ve geri yükleme prosedürü yok.

FDE node imajları bekleyen veri gizliliği sağlamıyor ve yalnızca değerlendirme amaçlı.

Tek sağlayıcı NICo olduğundan, başka herhangi bir şekilde yönetilen donanım şimdilik desteklenmiyor.

Node değiştirme ve Kubernetes yükseltmeleri manuel adımlar ve önizleme sınırları içeriyor.

Neden önemli

GPU sunucuları pahalı ve kıt; bunların ortak bir havuzunu paylaşan ekipler genellikle namespace düzeyinde izolasyonlu tek bir büyük ortak cluster ile kiracı başına özel otomasyon arasında seçim yapıyor. NVKE orta bir yolu hedefliyor: her workload cluster'ı için ayrı control plane'ler ve etcd, tek bir kuruluşun sahip olduğu donanımda çalışıyor ve TPM destekli node kimliği bare-metal çok kiracılılığa uygun. NVIDIA projeyi olgunlaştırırsa, her ekibin ya da müşterinin ayrılmış GPU kapasitesinde yönetilen Kubernetes'e benzer bir şey aldığı dahili GPU bulutu teklifleri için standart bir yapı taşı haline gelebilir.

Şimdilik eksiklikler önemli. Varsayılan olarak kimlik doğrulamasız API'ler, yönetim düzlemi yükseltmelerinin ve yedeklemelerin olmayışı ve tek bir altyapı sağlayıcısı, NVKE'yi üretim trafiğinin önüne koyulacak bir şeyden çok bir değerlendirme hedefi yapıyor. Paylaşımlı GPU altyapısı kuran platform ekipleri bunu simüle edilmiş makinelerde test etmeli, bilinen sınırlamaları okumalı ve önizleme kısıtlamaları kalktığında yeniden bakmalı.