deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak dev.to (home feed)

AI agent kodunu güvenle çalıştırmak için 50 satırlık bir Python sandbox runner

Neeraj Sharma'nın bir dev.to yazısı, sır sızıntılarından kontrolden çıkan döngülere kadar agent tarafından üretilen kodun öngörülebilir hata biçimlerini kontrol altına alan 50 satırdan kısa bir Python runner'ı ele alıyor.

AI agent kodunu güvenle çalıştırmak için 50 satırlık bir Python sandbox runner

Agent kodu genellikle güvenli olmayan bir yerde çalışır

Bir AI agent Python kodu üretip çalıştırdığında, o kodun gerçekte nerede çalıştığı sorusu çoğu zaman sorulmaz. Neeraj Sharma'nın bir dev.to yazısına göre birçok agent ürününde üretilen kod, diğer her şeyle aynı sunucuda çalışıyor ve uygulamanın environment değişkenlerini miras alıyor — API anahtarları, veritabanı URL'leri ve ağ erişimi dahil. Kötü tek bir üretim ya da agent'ın okuduğu bir belgeye gizlenmiş bir prompt injection, kodun sırları dökmesi, diski doldurması veya sonsuza dek döngüye girmesi için yeterli.

Yazı, sektörün buna nasıl tepki verdiğini de gösteriyor: LangChain, LangSmith Sandboxes'ı genel kullanıma açtı ve bunları tam çekirdek izolasyonuna sahip, donanım tabanlı sanallaştırılmış microVM'ler olarak tanımlıyor; her biri kendi dosya sistemine, shell'ine ve ağ sınırına sahip. Bunun gerekçesi, container'ların host ile çekirdek paylaşması ve bunun güvenilmeyen kod için yeterli olmaması. Yazıya göre monday.com, Sidekick asistanının kod yazıp çalıştırabilmesi için bu hizmeti kullanıyor.

Her hata için bir testle eşleştirilmiş küçük bir runner

Sharma'nın konumu şu: ilk günden microVM'e ihtiyacınız olmayabilir, ama üretilen koda güvenilmeyen muamelesi yapan bir runner'a ihtiyacınız var. 50 satırdan kısa bir Python runner yayınlıyor ve bunu agent kodunun öngörülebilir şekilde başarısız olduğu yolları kapsayan testlerle eşleştiriyor: environment'dan sır okuma, kazara sonsuz döngüye girme, worker'ı kilitlemek için uyuma ya da uyuyan bir child process başlatma, gigabaytlarca bellek ayırma, çalışma dizinine büyük dosyalar yazma ve kimsenin onaylamadığı ağ istekleri yapma.

Demo çıktısında her hata kontrol altında tutulurken normal senaryo hâlâ çalışıyor. Environment testi, host process sahte bir canlı API anahtarı taşısa bile görünür anahtar olmadığını bildiriyor. CPU döngüsü öldürülüyor, uyuyan process zaman aşımına düşüyor, bellek ve disk girişimleri hatalarla başarısız oluyor ve ağ isteği bağlanamıyor. Yazar ayrıca uyku testinin başlattığı bir child process'in çalıştırmadan sonra kaybolduğunu doğrulamış.

Kontrol mekanizması nasıl çalışıyor

Yazıda açıklanan birkaç mekanizma birlikte çalışıyor:

  • Environment allow-list'leme: child process üç değişken alıyor, başka hiçbir şey. Yazı, host environment'ından hassas isimleri filtrelemeye çalışmama konusunda uyarıyor, çünkü birini gözden kaçıracaksınız.

  • Python'ın izole modu (-I), PYTHON* değişkenlerini ve kullanıcı site-packages'larını yok sayar; böylece host'tan kalan yapılandırma kodu yönlendiremez.

  • Kernel tarafından dayatılan kaynak limitleri (CPU saniyeleri, adres alanı, dosya boyutu) child process'te pre-exec hook ile uygulanır; kod bunları yakalayıp aşamaz.

  • CPU limitinden ayrı bir wall-clock timeout, çünkü CPU sınırı uyuyan koda hiçbir şey yapmaz. Child process kendi process group'una sahip olur; böylece timeout yalnızca parent'ı değil, onun başlattığı her şeyi öldürür.

  • Varsayılan olarak ağ yok; mümkün olduğunda boş bir network namespace ile unshare kullanılıyor. Yazı şu konuda uyarıyor: dağıtım yetkisiz kullanıcı namespace'lerini engelliyorsa runner sessizce ağ erişimine izin vermeye geri düşüyor; bu yüzden operatörlerin bunu kendi host'larında doğrulaması gerekiyor.

  • Her çalıştırma için sonradan silinen taze bir geçici çalışma dizini ve sınırlanan stdout/stderr; böylece geveze bir program log'ları veya modelin bir sonraki context penceresini dolduramaz.

Sınır nerede

Yazı sınırlar konusunda açık: runner host çekirdeğini paylaşır, makinedeki dünya tarafından okunabilir dosyaları hâlâ okuyabilir ve bir çekirdek açığı ondan kaçmanın yoludur. Bu, kendi agent'ınızın güvenilir talimatlarla kod yazdığı dahili bir araç için kabul edilebilir; her kullanıcının agent'a keyfi kod çalıştırtabildiği bir ürün için ise kabul edilemez. Sharma'ya göre o noktada çalıştırma bir microVM'e taşınmalı — Firecracker tarzı ya da LangSmith Sandboxes, E2B veya Modal gibi yönetilen bir hizmet — ama aynı ilkeler üzerinde korunarak: allow-list'lenmiş environment, kaynak limitleri, wall-clock öldürme, belirli bir alan adı onaylanmadıkça ağın reddi ve kimlik bilgilerinin koda verilmesi yerine ağ katmanında bir proxy tarafından enjekte edilmesi.

Yazı bir kontrol listesiyle kapanıyor: environment değişkenlerini allow-list'leyin; process group'u öldüren CPU, bellek, dosya boyutu ve wall-clock limitleri belirleyin; ağa varsayılan olarak izin vermeyin; her çalıştırmaya tek kullanımlık bir dizin verin; modele dönmeden önce çıktıyı sınırlayın; her çalıştırmayı kodu, limitleri ve sonucuyla birlikte log'layın ki olaylar tekrar oynatılabilsin; ve güvenilmeyen kullanıcılar çalıştırma tetikleyebildiği gün microVM'lere geçin.

Neden önemli

Kod üreten agent'lar standart bir ürün özelliği haline geliyor ve çalıştırma katmanı, bu özelliğin müşterilere açılmasının güvenli olup olmadığını belirliyor. Bu yazı hep ya da hiç seçeneği yerine kademeli bir yol sunuyor: önce ucuz ve öngörülebilir hataları kontrol altına alın ve donanım izolasyonuna, kodun kaynağına olan güven tam düştüğü anda geçin. Hata başına test yapısı ayrıca güvenlik iddialarını umut değil, doğrulanabilir kılıyor — kod aracıyla agent çıkaran herhangi bir ekibin bugün kopyalayabileceği bir şablon.

  • #ai-agents
  • #python
  • #security
  • #sandboxing
  • #code-execution

İlgili yazılar