Vercel, build'leri, sandbox'ları ve fonksiyonlarının arkasındaki tek compute katmanı Fluid'ı ayrıntılarıyla anlattı

Vercel, platformunu çalıştıran compute katmanının perdesini araladı ve build'lerin, sandbox'ların ile serverless fonksiyonların Fluid adını verdiği tek bir sistem üzerinde durduğunu duyurdu. Vercel bloguna göre sistem günde 15 milyondan fazla build, haftada 25 milyon sandbox ve ayda bir trilyon isteği zaten yönetiyor; Vercel'de deploy yapan herkes bunu bilmese de bu sistem üzerinde çalışıyordu.

Her workload için oluşturulan bir makine

Temel fikir şu: workload'lar çalışma süreleri, tükettikleri bellek ve ortam üzerindeki kontrol düzeyleri bakımından farklılaşır ve bu farklılıkların her biri geleneksel olarak kendi compute primitive'ini gerektirirdi. Vercel'in cevabı, workload geldiğinde ihtiyaç duyduğu makineyi oluşturmak, çalışırken yeniden yapılandırmak ve yaşanan trafik patlamalarını anında karşılamaktır.

Vercel, tasarımı gerekçelendirmek için bir gelişim çizgisi çiziyor: elle yükselttiğiniz donanım, sonra kiraladığınız bare metal, ardından istediğiniz an talep edip bırakabileceğiniz cloud VM'ler. İddiasına göre agent'lar artık standart bir VM'nin sağlanabileceğinden daha hızlı iterasyon yapıyor ve Fluid'ın kapatmak için tasarlandığı boşluk tam da bu.

Hive, Fluid image'ları ve Vercel Drives

Fluid üç parça üzerinde yükseliyor. Hive, genellikle hemen hazır olmaları için sıcak tutulan yalıtılmış sanal makineleri sağlayan katman. İş için uygun makineyi seçiyor, çok kiracılı bir ortamda izolasyonu koruyor ve her Vercel ürününün üzerine inşa ettiği tek bir control-plane API'si sunuyor.

Fluid image'ları ortamı sağlıyor. Geliştiriciler kendi image'larını Vercel Container Registry'ye push ediyor ve bunları sandbox'larda ile fonksiyonlarda çalıştırıyor. Vercel bunları VHS (Vercel Hive Snapshot) adını verdiği, optimize edilmiş bir boot formatına dönüştürüyor — Dockerfile deploy'larının ve sandbox özel image'larının arkasındaki teknoloji de bu — böylece bir makine cold-boot yapmak yerine bir snapshot'tan devam edebiliyor ve milisaniyeler içinde hazır hale geliyor. Vercel, v0'ın kendi geliştirme ortamlarını build etmek ve çalıştırmak için bunu zaten kullandığını belirtiyor.

Vercel Drives ise bir makinenin diskinde mahsur kalmak yerine workload ile birlikte seyahat eden depolama sunuyor. Depolama, bağlı olduğu compute'dan daha uzun ömürlü olduğu için Vercel'e göre alttaki makineyi değiştirebilir ve önceki oturumun kaldığı yerden tam olarak devam edebilirsiniz. Drives şu anda private beta'da sandbox'lara bağlanıyor ve oradan Fluid'ın geri kalanına genişleyecek.

En üstteki yürütme modeli ise Fluid compute: her istek kendi instance'ını başlatmak yerine birçok istek tek bir instance'ı paylaşıyor ve Active CPU fiyatlandırmasıyla müşteriler CPU için yalnızca kodları etkin biçimde çalışırken ödüyor — bir veritabanını ya da bir modeli beklerken değil.

Agent'lar göz önünde bulundurularak tasarlandı

Vercel, agent'ları bu tarz altyapıya en çok ihtiyaç duyan workload olarak konumlandırıyor. Bir agent güvenilmeyen kod çalıştırır; dolayısıyla makinesinin güvenli bir sınıra ihtiyacı vardır. Kendi araçlarını getirir; dolayısıyla kendi ortamına ihtiyacı vardır. Ve sürekli makine oluşturup yok eder; dolayısıyla durumunun alttaki compute'dan bağımsız olarak hayatta kalması gerekir. Vercel, Hive'ın dosya sistemi durumunu da taşıyarak tam bir VM'yi milisaniyeler içinde sağlayabildiğini, konteynerlerin veya isolate'lerin genellikle sunduğundan daha sıkı bir izolasyon sunduğunu ve bunu daha güçlü sınırların genellikle maliyeti olan başlangıç cezası olmadan gerçekleştirdiğini iddia ediyor. Blogun ifadesiyle tersine çevirme şu: işinizi sabit bir makineye uydurmak yerine işi tanımlıyorsunuz ve makine ona uyum sağlıyor.

Neden önemli

Geliştiriciler için en büyük sonuç doğuracak kısmı konsolidasyon argümanı. Fonksiyonlar, sandbox'lar ve build'ler tek bir compute katmanını paylaştığı için boot süresi, izolasyon, zamanlama veya önbelleklemedeki bir iyileştirme, üç kez yeniden inşa edilmek yerine hepsine aynı anda yansıyor ve yeni compute biçimleri, temeli yeniden mimarileştirmeden eklenebiliyor.

AI agent'ları inşa eden ekipler için sağlama hızı, iterasyon hızıdır: bir agent bir VM için saniyeler beklerse ürün de bekler. Vercel'in milisaniye düzeyinde boot iddiaları ve Active CPU fiyatlandırması doğrudan bu maliyete hitap ediyor.

Uyarıları da belirtmek gerek. Kullanım rakamları ve performans iddiaları Vercel'in kendisinden geliyor, bağımsız bir benchmark kaynak gösterilmedi ve Drives — kalıcı agent durumunu pratik kılan parça olarak görülebilir — hâlâ private beta'da ve şu anda yalnızca sandbox'larla sınırlı.