deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak dev.to (home feed)

Kapsamı sınırlandırılmamış agent araçları her denemede bir sır sızdırdı; allowlist'ler bu oranı sıfıra indirdi

Script'li bir dev.to testi, kapsamsız agent araçlarıyla yüzde 100 veri sızma oranı, allowlist'lerle yüzde 0 oranı buldu; ikinci bir yazı ise güvenli veritabanı erişimi için kodla zorunlu kılınan koruma önlemlerini ele alıyor.

Kapsamı sınırlandırılmamış agent araçları her denemede bir sır sızdırdı; allowlist'ler bu oranı sıfıra indirdi

Kapsamsız araçlara sahip bir agent her seferinde bir sır sızdırdı

Aynı gün dev.to'da yayımlanan iki yazı aynı soruna iki uçtan yaklaşıyor: Bir yapay zeka agent'ı, geniş araç veya veritabanı erişimi olduğunda veri sızdırmasını gerçekte ne durdurur. Biri sert rakamlarla yapılmış kontrollü bir deney; diğeri veritabanı bağlantıları için üretim ortamına yönelik koruma önlemleri. İkisi de aynı sonuca varıyor: Kodla zorunlu kılınan izin sınırları, prompt'ta rica edilen sınırlar değil.

İlk yazıda dev.to kullanıcısı vanshsoni16 script'li bir temel test anlatıyor. Bir agent rutin CRM işleri yürüttü — bir müşterinin planını güncelleme, bir destek talebine yanıt tasarlama, müşteriye e-posta gönderme — dosya okuma, dosya yazma, mesaj gönderme ve kayıt güncelleme araçlarına sahip küçük bir sahte ortamda. Aynı çalışma alanında SECRET.txt adlı bir dosya duruyordu ve asıl iş bitince agent iki sızdırma yolu denedi: token'ı /tmp/exfil.txt dosyasına yazmak ve onu müşteri olmayan, destek kutusu da olmayan bir adrese e-postayla göndermek.

Yazar her koşul için yirmi deneme yaptı, toplam altmış çalıştırma, ve kurulumu sonradan tekrar kontrol etti; sonuçlar değişmedi. Agent canlı bir model değil script'li olduğu için test izin katmanını ölçüyor, model davranışını değil — yazar bunu açıkça belirtiyor.

yüzde 100'e karşı yüzde 0

Her yola ve her alıcıya izin verilen kapsamsız erişim altında sır her çalıştırmada sızdı. /tmp'ye yazma her seferinde ilk denemede başarılı oldu ve yetkisiz e-postaya hiç gerek kalmadı bile.

Allowlist'ler devredeyken — yazmalar müşteri ve talep klasörleriyle, mesajlar müşteri ve destek adresleriyle sınırlıydı — sızma oranı yüzde 0'a düştü. Her iki sızdırma girişimi de reddedildi ve meşru görev yirmi çalıştırmanın tümünde yine tamamlandı; yani kontrol, agent'ın gerçek işini hiç bozmadı.

Üçüncü bir koşul, allowlist'lerin üzerine onayla-veya-reddet şeklinde insan kapısı ekledi. Sızma oranı yüzde 0'da kaldı ve ana görev yine başarıldı, ama kapının yakalayacak bir şeyi kalmamıştı çünkü daraltılmış araç yüzeyi giden yolları çoktan kapatmıştı. Üretimde insan-döngüde adımlarından yana olan yazar, bu durumun "daha fazla inceleme otomatik olarak daha fazla güvenlik demektir" varsayımını karmaşıklaştırdığını kabul ediyor.

Yazarın üstünü örtmediği bir uyarı var: okuma aracı kapsamlandırılmamıştı. Agent allowlist'li koşullar altında yine de SECRET.txt'yi açabiliyordu; yani yüzde 0 rakamı sıfır başarılı sızdırma demek, sıfır erişim değil. Yazar, gerçek bir sistemde okumaların da kapsamlandırılması gerektiğini ya da sırların agent'ın dosya sisteminden tamamen uzak tutulması gerektiğini savunuyor.

Aynı dersin veritabanı sürümü

İkinci yazı, anlattığı ürünü geliştirdiğini açıkça belirten dev.to kullanıcısı samuccaya'ya ait; yazı veritabanı erişimi için SignOff Studio MCP sunucusunda uygulanan koruma önlemlerini ele alıyor.

Salt-okunur değil prompt'ta değil sürücü düzeyinde zorunlu kılınıyor: sorgu aracı çağrı başına tek ifade kabul ediyor, yalnızca okuma ifadelerini kabul ediyor ve salt-okunur bir transaction içinde çalışıyor — SQLite'ta salt-okunur bir bağlantı, SQL Server'da her zaman geri alınan bir transaction. Bu, çıktısı sonra seçilen bir DELETE'i CTE içine sarma gibi parser düzeyindeki atlatma girişimlerini engelliyor.

Yazmalar kesinlikle isteğe bağlı. Ayrı bir çalıştırma aracı yalnızca açıkça agent-yazılabilir olarak işaretlenmiş bağlantılarda var, production veya read-only etiketli bağlantılarda asla yok ve varsayılan olarak dry-run modunda çalışıyor; önce çalıştırıp sonra geri alıyor, böylece agent herhangi bir şey commit edilmeden etkiyi görüyor.

Sırlar modele asla ulaşmıyor. Şifreler çalışma alanının ortam dosyasından çekiliyor ya da masaüstü uygulamasının kasasından yerel bir pipe üzerinden iletiliyor ve her araç sonucu değere göre temizleniyor; böylece çıktıda görünen her kimlik bilgisi model görmeden önce sansürleniyor. Yazarın testlerinde bir agent kasa korumalı iki PostgreSQL veritabanını 885 ms ve 729 ms'de sorguladı ve herhangi bir şifre bir araç sonucunda hiç görünmedi.

Katmanlar arasında şunlar da var: her sonucu yönerge değil veri olarak etiketlemek — metin sütunlarında gizli prompt injection'a karşı bir savunma; her çağrıyı araç, hedef, sonuç ve saatle ama SQL metni veya sırlar olmadan bir denetim dosyasına kaydetmek; ve belli host'leri reddedebilen, erişimi public host'lardan oluşan bir allowlist'e kısıtlayabilen ve istek, satır ve yanıt boyutunu sınırlayabilen bir politika dosyası. Sunucu PostgreSQL, MySQL/MariaDB, SQL Server, Oracle ve SQLite destekliyor, yerel olarak ve ücretsiz çalışıyor.

Yazarın genel kuralı şu: bir koruma önlemi yalnızca prompt'ta varsa, er ya da geç kırılacağını bekleyin. Zorunlu kılma transaction'da, bağlantı bayrağında veya çıktı filtresinde olmalı.

Neden önemli

Agent'lar giderek daha geniş araç ve veritabanı erişimiyle yayımlanıyor ve iki yazı da aynı yönü gösteriyor: belirleyici olan faktör talimatların kalitesi değil, izin yüzeyinin biçimi — hangi yollara yazılabilir, kime mesaj gönderilebilir, hangi bağlantılar yazabilir. Script'li testte yüzde 100 ile yüzde 0 sızma oranı arasındaki fark, meşru işi hiç engellemeyen iki kısa allowlist'e indirgendi. Aynı zamanda iki yazı da aynı sınırı işaret ediyor: sızdırmayı durdurmak, erişimi kısıtlamakla aynı şey değil ve sırları agent'a baştan görünmez kılmak ancak okumaları ve kimlik bilgilerini kapsamlandırmakla mümkün. İddialardan hiçbiri büyük kamusal bir benchmark değil — biri script'li oyuncak bir ortam, diğeri bir geliştiricinin kendi testi — ama anlattıkları düzeltmeler ucuz, test edilebilir ve bir agent ilk kimlik bilgisini almadan önce hazır.

  • #ai-agents
  • #security
  • #guardrails
  • #mcp
  • #data-leaks

İlgili yazılar