Tailscale, Aperture AI model router'ını Vercel'in AI Gateway'i üzerine kurdu

Tailscale müşteri AI erişimini Vercel üzerinden yönlendiriyor

Tailnet adıyla bilinen kimlik tabanlı özel ağın arkasındaki şirket Tailscale, müşterilere yönelik AI model router'ı Aperture'ı, tüm altyapıyı kendi içinde kurmak yerine Vercel'in AI Gateway ve Vercel Sandbox'ı üzerine nasıl inşa ettiğini anlattı. Vercel blogunda yayımlanan bir vaka çalışmasına göre bu tercih, ürünü birkaç ay içinde prototipten ödeme yapan müşterilere taşıdı.

Model erişimi ağ kimliğini takip ediyor

Aperture, Tailscale'in ağ modelini AI'a延伸 ediyor. Her çalışan, agent veya araca ayrı bir sağlayıcı API anahtarı vermek yerine şirket, model erişimini tailnet üyeliği üzerinden kontrol ediyor: ağa eklenen herkes onaylı modellere anında erişebiliyor ve ağdan çıkarıldığı anda erişim de sona eriyor.

Perde arkasında Aperture, yüzlerce modeli kapsayan tek bir API olarak AI Gateway'e ve agent'ların çalışması için izole bir ortam olarak Vercel Sandbox'a dayanıyor. Bu iki hizmet birlikte, Tailscale'in her AI altyapı parçasını kendisi kurmadan müşterinin özel ağı içinde model erişimi ve agent çalıştırması satmasını sağlıyor.

Tailscale neden bunu kendi içinde kurmadı

Tailscale bir altyapı şirketi, bu yüzden yönlendirme ve çalıştırma katmanlarını kendisinin kurması en başta gelen ilk seçenekti; ta ki ekip yapılacak işe yakından bakana kadar. Aperture'ın ürün sorumlusu Remy Guercio, sağlayıcı uç noktalarının dışarıdan birbirinin yerine geçebilir görünse de pratikte farklı davrandığını belirtiyor.

David Carney'nin elinde doğrudan bir kanıt var: Tailscale, Aperture'a geçmemiş birkaç müşteri için hâlâ elle kurduğu altyapıyı sürdürüyor. Karmaşıklığı aşırı olarak nitelendiren Carney, büyük sağlayıcıların bile atladığı temel şeylere örnek olarak bir isteğin maliyetinin yanıtta döndürülmemesini veriyor.

Agent'lar bahisleri daha da büyüttü. Özel verileri okuyabilen, okuduğu üzerinde işlem yapabilen ve genel internete erişebilen bir agent, güvenlik uzmanlarının "öldürücü üçlü" (lethal trifecta) dediği yapıyı oluşturuyor; önerilen çözüm de kimlik ve erişim kontrolleri içe gömülü izole bir sandbox. Carney, Tailscale'in bu sandbox'ı da kendisi kurmaya çalışsaydı Aperture'ı çıkaramayacağını söylüyor.

Sıfır veri saklama ve fiyat farkı yok

Tailscale'in müşterileri verilerini korumak istediği için, sıfır veri saklama (ZDR) Aperture için temel bir gereklilikti. Vercel blogu, şirketin AI Gateway'i seçme nedenlerini sıralıyor: gateway kendisi hiçbir veri saklamıyor ve ZDR, yönlendirmeyi uyumlu sağlayıcılarla sınırlayan zeroDataRetention flag'i ile genel olarak veya istek başına uygulanabiliyor. Carney, hangi modellerin gerçekten ZDR sunduğunun sürekli değiştiğine dikkat çekiyor ve bu mantığı gateway'in halletmesi, Tailscale'in sırtından bir bakım yükü kaldırıyor.

Fiyatlandırma bir başka etkendi. AI Gateway, müşteriler kendi anahtarlarını getirse dahil hiçbir sağlayıcı veya modelde token maliyetlerine ek üyet uygulamıyor; dolayısıyla Aperture kullanıcıları, doğrudan gitseler ödeyecekleri ücretleri ödüyor. Gateway ayrıca her istekte maliyet ve kullanım verisini döndürüyor, bu da Aperture'ın harcamaları müşterilere göstermesini, Tailscale'in her sağlayıcı için fiyat tabloları tutmasını gerektirmeden sağlıyor.

Agent'lar anahtarsız, sandbox içinde çalışıyor

Agent iş akışı tamamen tailnet kimliği üzerinde yürüyor: bir sandbox ayağa kalkıyor ve Aperture'a bağlanıyor, Aperture AI Gateway'e bağlanıyor, Tailscale kimliği doğruluyor, agent işini yapıyor ve sandbox kapanıyor. Agent'a hiçbir zaman anahtar verilmiyor.

Tailscale sandbox katmanını da başka sağlayıcılardan değerlendirdi; Guercio'ya göre ekip, emeğini sandbox güvenlik sınırları yerine ağ kimliğine harcamak istediği gerekçesiyle geçiş yapmadan önce başka bir sağlayıcıda tam çalışan bir uygulaması vardı.

Tailscale önce kendini taşıdı

Tailscale'in kendi iç AI kullanımı çoğu şirket gibi büyüdü: ekip ekip biriken, doğrudan sağlayıcı hesapları ve bulut uç noktalarından oluşan bir yama işi. İstekler Aperture'tan geçse bile proxy, perde arkasında hâlâ sağlayıcılara doğrudan bağlanıyordu.

Müşterileri AI Gateway'e bağladıktan sonra Tailscale'in mühendisleri, Aperture'a istekleri tek tek sağlayıcı API'leri yerine gateway'e yönlendiren bir anahtar ekledi ve birçok entegrasyonu tek bir noktada topladı. Guercio, tüm şirketin saniyeler içinde geçirildiğini, çalışanların zaten kullandığı her modelin gateway kataloğunda olduğunu ve kimsenin değişikliği fark etmediğini söylüyor. Tailscale şimdi kendi geçişini, düzinelerce sağlayıcı hesabı ve anahtarıyla boğuşan kurumsal müşteriler için bir rehber olarak sunuyor.

Sırada ne var

Aperture, mühendislerin bir kodlama agent'ını bağlaması için ham bir gateway olarak başladı. Şimdi bir sohbet arayüzü, MCP bağlayıcıları ve geçici tailnet düğümleri olarak başlatılan sandbox'lar içeriyor. Carney'nin anlattığı bir sonraki hedef "ilk uygulamaya kadar geçen süre": bir kullanıcı kaydoluyor, bir prompt çalıştırıyor, bir uygulama oluşturuyor ve on dakika içinde paylaşıyor. Diğer şirketlere tavsiyesi, çoğu ekibin başka bir router'a ihtiyacı olmadığı savunmasıyla, altındaki altyapıdan çok sundukları ürüne odaklanmaları yönünde.

Neden önemli

Bu, ekiplerin kendi AI yönlendirme katmanlarını kurup kurmaması gerektiği tartışmasında üretimden bir veri noktası. Tüm işi altyapı olan bir şirket olan Tailscale, sağlayıcı parçalanmasına, değişen sıfır veri saklama garantilerine ve agent sandbox ihtiyacına baktı ve farklılaştırıcı olmayan bu altyapının sahibi olmaya değmediği sonucuna vardı. Yazının Vercel tarafından yayımlanan bir satıcı vaka çalışması olduğunu unutmamak gerek; bu yüzden gecikme ve sandbox kalitesine dair iddialar satıcıdan ve onun müşterisinden geliyor. Yine de bu mimari, müşterilere veya iç agent'lara model sunan herkes için yeniden kullanılabilir bir kalıp: ağ kimliğini erişim sınırı yapın, agent'lara asla anahtar vermeyin ve sağlayıcı fiyat tablolarını elle tutmak yerine istek başına maliyeti gösterin.