Uber, üretim ortamındaki AI agent'larını güvence altına alan katmanlı bir framework olan Secure AI'ı yayımladı

Uber, üretim ortamında AI agent'larını güvende tutmak için dahili olarak kullandığı framework'ü Secure AI adıyla yayımladı. 6 Kasım 2026 tarihli Uber Engineering yazısının dev.to'daki özetine göre yaklaşım üç katman halinde kurgulanmış: agent sağlanırken doğrulama, çalışırken zorlama ve dağıtımdan sonra sürekli güvence.

Çıkış noktası şu: kimlik ve yetkilendirme gerekli olmaya devam eder, ancak yazılım güvenilmeyen içerik üzerinde muhakeme yaptığında, kendi araçlarını kendisi seçtiğinde ve kullanıcı adına harekete geçtiğinde tek başına yeterli olmaktan çıkar. Erişim kontrolü kimin ne yapabileceğini yanıtlar; belirli bir eylemin bağlam içinde anlamlı olup olmadığı konusunda pek bir şey söylemez.

Erişim kontrolünden davranış kontrolüne

Uber'ın argümanı, agentic sistemlerin yalnızca bir agent'ın harekete izni olup olmadığına değil, talebi, agent'ın amacını ve oturum geçmişini göz önüne alarak harekete geçip geçmemesi gerektiğine karar veren anlamsal bir katmana ihtiyaç duyduğudur. dev.to yazısı, bu geçişi motive eden beş risk kategorisi sıralıyor: prompt injection, araç ve bellek zehirlenmesi (tool and memory poisoning), hedef ele geçirme (goal hijacking), davranışsal kayma ve halüsinasyona dayalı eylemler.

Uber, neredeyse sonsuz sayıda saldırı varyantı için kural tutmak yerine anlamsal, davranış tabanlı zorlamaya yöneldi.

Sağlama: bir registry ve davranışsal sözleşme

Bir agent yayımlanmadan önce özellikleri Uber AI Registry'ye kaydedilir: kimlik, sahiplik, persona, izin verilen intent'ler, kısıtlar, bağımlılıklar ve bir risk seviyesi. Bunlar birlikte Uber'ın davranışsal sözleşme (behavioral contract) dediği şeyi oluşturur — agent'ın ne yapmasının beklendiğine dair bildirimsel bir tanım.

Argus adlı bir platform bu tanımı gerçeklikle karşılaştırmak için agent kaynak kodunu, prompt'ları, konfigürasyonları, bağımlılıkları ve araç çağrı yollarını analiz eder; böylece bildirilen davranış gözlemlenen yeteneklerle mukayese edilebilir. Üçüncü taraf MCP sunucuları ve araçları ise statik ve dinamik analiz, kompozisyon analizi ve araç açıklamalarının anlamsal incelemesinden geçirilir — fiilen agent araçları için supply-chain denetimi.

Küçük yerel modellerle runtime zorlaması

Runtime'da mimari, policy yönetimini, policy kararını ve policy zorlamasını ayrı parçalara böler; yetkilendirme sistemlerinden tanıdık bu kalıbı kaynaklardan davranışa doğru genişletir. AI Registry yönetim noktası olarak işlev görür, AI Guard karar noktası olarak hizmet verir, Agent Guard hook'ları ise — LangFx veya AI Guard SDK üzerinden bağlanır — agent'ın yürütülmesindeki hassas noktalarda kararları uygular.

Yazıya göre AI Guard, yerel olarak çalışan küçük, uzmanlaşmış modellere dayanır; bazıları tek bir guardrail görevine ince ayarlanmıştır. Çıkarımı agent ile aynı altyapıda yapmak gecikmeyi azaltır ve her agent'ın ayrı ayrı kalibre edilmesini sağlar.

Güvence: provenance, replay ve red teaming

Üçüncü katman sürekli güvencedir. Prompt provenance ve kanıt zincirleme, ayrıcalıklı eylemleri kullanıcının özgün talebine bağlar; böylece sonuç doğuran adımlar yalnızca log'lanmakla kalmaz, izlenebilir olur. Uçtan uca gözlemlenebilirlik, kaydedilmiş etkileşimlerin aday guardrail'lere karşı yeniden oynatılması, tehdit modelleme ve sürekli red teaming döngüyü tamamlar.

dev.to'nun aktardığına göre Uber'ın kendi vardığı sonuç, en etkili azaltımının en gösterişsizi olduğuydu: agent'ları açık intent'ler ve kısıtlarla sınırlamak, bazı esnekliği öngörülebilirlik karşılığında takas etmek.

Neden önemli

Agent dağıtımları demolardan üretime geçiyor ve eldeki güvenlik rehberliğinin çoğu hâlâ prompt'ları sanitize etmekten öteye gitmiyor. Secure AI somut, çalışan bir referans mimari: amaçlanan davranışı bildiren bir registry, runtime'da davranışı yargılayan bir karar servisi ve yürütme yolunun içinde bunu zorlayan hook'lar. Platform ekipleri registry, karar noktası ve hook kalıbını kendi bileşenleriyle benimseyebilir; MCP üzerinden araç sunan herkes de tüketicilerin araçlarına supply-chain kontrolleri uygulamaya başlayacağını beklemelidir.

Daha sessiz olan ders ise kültürel. Uber, agent'lara izin verilen şeyi daraltmanın zekice tespitten daha çok getirisi olduğunu gördü — azami yetenekli agent'ları yayımlayıp riski sonra yamamak gibi yaygın içgüdüye faydalı bir denge unsuru.