deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak dev.to (home feed)

crewAI, OpenClaw ve LiteLLM duyuruları, ajan guardrail'lerinin açık şekilde başarısız olduğunu gösteriyor

crewAI, OpenClaw ve LiteLLM tarafından 19 ve 20 Kasım'da yayımlanan üç güvenlik duyurusu, ajan guardrail'lerinin — salt okunur SQL, araç politikası, anahtar izolasyonu — geliştiricilerinin öngörmediği uç durumlarda açık şekilde (fail-open) başarısız olduğunu ortaya koyuyor.

crewAI, OpenClaw ve LiteLLM duyuruları, ajan guardrail'lerinin açık şekilde başarısız olduğunu gösteriyor

İki günde üç duyuru

19 ve 20 Kasım'da, yapay zeka ajan araç zincirinin üç parçası birbirinden yaklaşık 24 saat arayla güvenlik duyuruları yayımladı: crewAI, OpenClaw ve LiteLLM. Ajan güvenlik testi firması Humanbound'ın dev.to üzerindeki analizine göre ortak nokta paylaşılan bir hata değil, paylaşılan bir örüntü: her durumda bir guardrail vardı, açıktı ve geliştiricilerinin öngörmediği bir uç durumda açık şekilde (fail-open) başarısız oldu.

Duyurular şunlar: crewAI için GHSA-wp6h-6xxh-g8fp, OpenClaw için GHSA-pw3x-g8v8-fvj2 ve LiteLLM için GHSA-4xm2-x5g5-wc8q.

crewAI: üç sertleştirilmiş bileşen, üç bypass

Yüksek derecelendirilen ve 19 Kasım'da yayımlanan crewAI duyurusu, 1.15.30 sürümünün incelenmesinden kaynaklandı ve daha önce sertleştirilmiş bileşenlerdeki bypass'ları kapsıyor.

İlki deserialization ile ilgili. crewAI, güvenilmeyen checkpoint'lerin ve serileştirilmiş yüklerin rastgele Python modülleri içe aktaramaması için CREWAI_DESERIALIZE_CALLBACKS ortam değişkenini sunuyor. Ancak BaseTool deserialization işleminde korumayı atlayan ikinci bir yol vardı: cache_function içindeki noktayla ayrılmış bir yol, araç yürütme sırasında çalışan canlı bir çağrılabilir nesneye dönüştürülüyordu ve bilinmeyen bir tool_type, güven kontrolü yapılmadan ve sonucun gerçekten bir BaseTool olduğunun doğrulanması olmadan doğrudan importlib.import_module() fonksiyonuna geçiriliyordu.

İkincisi, varsayılan olarak salt okunur çalışan (allow_dml=False) ve CTE'lerin veya EXPLAIN ANALYZE içinde gizlenmiş yazma işlemlerini engellemeye çalışan NL2SQLTool ile ilgili. Yazıya göre üç yapı doğrulayıcıyı atlattı: WITH cte AS MATERIALIZED ve AS NOT MATERIALIZED ifadeleri ayrıştırıcının regex'iyle eşleşmediği için doğrulama hata vermeden dönüyor ve açık şekilde başarısız oluyordu; WITH d AS (/*comment*/ DELETE FROM users RETURNING *) SELECT * FROM d örneğindeki gibi CTE gövdesinin başındaki bir yorum, DELETE işlemini kontrolün gözünden saklıyordu; ve EXPLAIN (ANALYZE true) DELETE FROM users bir ANALYZE biçimi olarak tanınmadığı için silme işlemi çalıştı. SQL kadar zengin bir dili kara listeye almak en iyi koşullarda bile kırılgandır; ajanlar içinse durum daha da kötü, çünkü SQL'i en son okuduğu metinden etkilenebilecek bir model yazıyor.

Üçüncüsü dosya yolu doğrulaması ile ilgili. Çalışma dizininin dışına çözümlenen symlink'ler reddediliyordu, ancak karşılaştırma bir dize öneki kullanıyordu. Çalışma dizini /app/work olduğunda, /app/work_secrets/key.pem dosyasına giden bir bağlantı kabul ediliyordu. Yalnızca son yol bileşeni kontrol edildiği için symlink'li bir üst dizin hiç incelenmiyordu.

İlk iki sorun crewAI 1.15.31'de giderildi; yol sorunu ise çözümlenmiş yol üzerinde her seferinde Path.is_relative_to kullanan crewai-files 1.15.44'te düzeltildi. Duyuruya göre güvenilmeyen yollar ve symlink'lerden kaçınma dışında bir geçici çözüm sunulmuyor.

OpenClaw: delegasyon onayı atladı

Yine 19 Kasım'da yayımlanan ve yüksek derecelendirilen OpenClaw duyurusu kısa ve net. Etkilenen sürümlerde openclaw aracı, araç politikası ilgili ajan için hem yürütmeyi hem de dosya yazmalarını reddetse bile onay olmadan kalıcı yapılandırma değişiklikleri uygulayabiliyordu. Humanbound'ın aktardığı duyuruya göre sonuç şuydu: kısıtlı bir ajan, yapılandırma değişiklikleri üzerinden host komut yürütmeyi etkinleştirebiliyordu. Komutları doğrudan çalıştıramıyordu ama bunu yapıp yapamayacağını belirleyen ayarları düzenleyebiliyordu.

Düzeltmeler stable 2026.11.4 ve extended-stable 2026.10.33 sürümlerine girdi. Yükseltme yapılana kadar duyuru, tools.exec.mode ayarını ask olarak belirlemeyi, güvenilmeyen delege edilmiş değişiklikleri reddetmeyi, izin listelerini dar tutmayı ve birbirine güvenmeyen kullanıcılar arasında tek bir Gateway paylaşmamayı öneriyor.

LiteLLM: gateway'de anahtar izolasyonu

20 Kasım'da yayımlanan ve orta derecelendirilen LiteLLM duyurusu, kendisine kullanıcı atanmamış sanal anahtarlar kullanan dağıtımları etkiliyor — ajan kurulumlarında yaygın olan service-account deseni. Böyle bir anahtar, /key/info uç noktasını çağırarak diğer kullanıcı atanmamış anahtarların — diğer ekiplerin anahtarları dahil — kayıtlarını okuyabiliyordu: alias, ekip, izin verilen modeller, bütçeler, harcama ve metadata.

Duyuru sınırlar hakkında açık. Ham anahtarlar ve hash'ler açığa çıkmadı ve hata başka bir anahtarı kullanmaya, değiştirmeye veya silmeye izin vermiyor. Admin'ler, kullanıcıya atanmış anahtarlar ve aynı ekip içindeki okumalar etkilenmiyor. Yine de bütçe ve model metadata'sı, bir gateway'i kötüye kullanmayı planlayan herkes için yararlı bir keşif malzemesi.

Şimdi ne yapmalı

Yükseltin: crewAI'ı crewai-files 1.15.44 ile birlikte 1.15.31'e, OpenClaw'ı 2026.11.4 veya 2026.10.33'e, LiteLLM'ı kendi duyurusundaki öneriye göre. Yama ötesinde Humanbound yazısı genellenebilecek testler öneriyor: her "salt okunur" aracı yorumlar ve alternatif anahtar kelimeler gibi geçerli ama alışılmadık söz dizimleriyle yoklayın; kısıtlı ajanların config araçları veya diğer ajanlar aracılığıyla kısıtlamalarının çevresinden delege olup olamayacağını kontrol edin; araçlara symlink'ler, symlink'li üst dizinler ve önek çakışan adlar verin; ve bir ajanın kimlik bilgilerinin diğer ekiplerin anahtarları ve bütçeleri hakkında neler okuyabileceğini denetleyin.

Neden önemli

Bu guardrail'lerin her biri sert bir sınır vaat ediyordu — yazma yok, rastgele içe aktarma yok, komut yürütme yok, kiracı izolasyonu — ve her biri tek bir yerde uygulanırken her yerde varsayılıyordu. Bu başarısızlık modu, ajanlar için sıradan yazılımlardan daha tehlikeli, çünkü ajanlar keşfeder: araçları zincirler, yeniden dener, kendi SQL'lerini yeniden yazar ve diğer ajanlara delege olur. Humanbound'ın ifade ettiği gibi, dolaylı prompt injection kullanan bir saldırganın uç durumu kendisi bulmasına gerek yok; arama işini ajana bırakabilir. Ajanınızın güvenliği "salt okunur" veya "kısıtlı" diyen bir bayrağa bağlıysa, o bayrak da model kadar adversarial testlere ihtiyaç duyar.

  • #ai-agents
  • #security
  • #crewai
  • #openclaw
  • #litellm

İlgili yazılar