Microsoft, içeriden tehdit olarak nitelediği yapay zeka agent'larını denetlemek için Guardian Agents'ı başlattı

Microsoft ne duyurdu

TechCrunch'ın haberine göre Microsoft, pazartesi günü şirketlerin işlettikleri yapay zeka agent'larına karşı kendilerini savunmalarına yardımcı olmayı amaçlayan bir dizi güvenlik özelliği tanıttı. Öne çıkan yenilik, bir şirketin devreye aldığı agent'ları izleyen Guardian Agents. Bu yetenek, Microsoft'un ilk kez Haziran'da tanıttığı Project Perception ürününün içinde yer alıyor.

TechCrunch'a göre Project Perception başlangıçta, Anthropic'in Mythos ve Fable hack modelleri ile OpenAI'nin Daybreak açık tarama sistemi gibi saldırı odaklı yapay zeka araçlarına Microsoft'un yanıtı olarak konumlandırılmıştı. Lansmanda üç agent sınıfı sunuyordu: bir sistemi bir hacker gibi saldıran kırmızı ekip, bu saldırıları tespit edip ortaya çıkardıkları zafiyetleri değerlendiren mavi ekip ve bunları gidermekle görevli yeşil ekip.

Dışarıdaki saldırganlardan içeridenkilere

Orijinal tasarım, tehdidin şirket dışından geleceğini varsayıyordu. Microsoft'un bakış açısı o zamandan beri değişti. CEO Satya Nadella, daha yakın tehlikenin, kurumsalların çoktan devreye aldığı ve şu an para ödediği agent'lar olabileceği konusunda uyarıyor; bunlar, güvenlik ekiplerinin içeriden tehdit dediği şey gibi, başına buyruk bir çalışana benzer biçimde davranıyor.

Bu ayın başında özel blogunda bir yazı yayımlayan Nadella, kurumsalları, agent ürünleri için güvenlik güvencesi sunsanlar dahi olsa yapay zeka model sağlayıcılarına güvenmeyi bırakmaya çağırdı. Şirketler, karmaşık agent sistemlerine en hassas verilerine erişim ve kendi adlarına görev açısından kritik eylemler gerçekleştirme yetkisi veriyor; bir sağlayıcının güvencesi bu sorumluluğu başkasına aktarmıyor, diye yazdı. Önerdiği ilke şu: zekâyı kim sağlıyorsa onun üzerinde yetki sahibi de olmamalı.

Agent'lara güvenmemek için gereken nedenler

Microsoft'un güvenlik işinden sorumlu Hayete Gallot, Guardian Agents'ı duyururken daha net konuştu. Onun ifadesiyle, sınır modelleri kökenleri ne olursa olsun güvenilmez — kötü niyetli oldukları ya da kolayca ele geçirildikleri için değil, öngörülemeyen oldukları için. TechCrunch onun argümanını şu şekilde özetliyor: Bu tür modeller organizasyonel normlara saygı göstermek veya sağduyu kullanmak için değil, görevleri tamamlamak için eğitiliyor ve sıklıkla ciddi zarar verebilecek veri ve araçlara kapsamlı erişimle donatılıyor.

TechCrunch bu tutarlımdaki tuhaflığa dikkat çekiyor. Microsoft hem OpenAI'ye hem Anthropic'e yatırım yaptı, OpenAI en büyük bulut müşterileri arasında ve Microsoft kendi yapay zeka laboratuvarını işletiyor; yani şirket kendi ortaklarına ve kısmen kendi ürünlerine yönelik güvensizlik ekiyor. Burada net bir ticari boyut da var: Microsoft, kurumsalların agent denetimini yapay zeka laboratuvarlarından değil kendisinden satın almasını tercih eder. Yine de TechCrunch, ardındaki mantığın sağlam olduğunu düşünüyor. Agent davranışını izleyen yazılım, bu agent'ları sağlayan satıcılardan bağımsız olmalı; tıpkı denetçilerin denetledikleri kuruluşlardan bağımsız olması gerektiği gibi.

Defender'a agent tespiti geldi

Guardian Agents'ın ötesinde Microsoft, Microsoft Defender'a çalışanların iş yerine getirdiği 60 agent türüne kadar tanıyabilen bir agent tespiti özelliği ekledi; Claude Code, Codex ve OpenClaw bunlar arasında. Yeni kontroller ayrıca agent'ların verilere ve sistemlere erişimini kısıtlıyor, yetkilerini eldeki göreve göre dinamik biçimde ayarlıyor ve bir agent riskli bir karar vermeye çalışırken insan onayı istiyor.

Sektör geneli bir dönüşüm

Agent'lara güvenilmeyen içeriden kişiler olarak yaklaşma fikri Microsoft'un ötesine yayılıyor. Şirket, TechCrunch'a göre 100'den fazla teknoloji şirketinin desteğini alan Nvidia'nın Open Agent Safety Platform'unun kurucu üyesiydi. Platform, agent'ları güvenli ortamlarda izole ediyor ve davranışlarını donanım üzerinden izleyip durdurabiliyor; bir tür kill switch gibi çalışıyor. Microsoft ayrıca agent'lar için tasarlanmış, agent güvenliği ve kontrolleri yerleşik Nvidia çipli Surface Laptop Ultra bilgisayarları duyurdu.

Neden önemli

Kurumsal güvenlik programlarının çoğu hâlâ karşı tarafın dışarıda olduğunu varsayıyor. Geniş yetkilere sahip agent'lar kalıcı bir içeriden risk haline gelirse bu model tersine döner: sürekli izleme, en az ayrıcalık ilkesine dayalı erişim, göreva özel yetkiler ve güvenilir kill switch'ler her agent dağıtımı için isteğe bağlı ekstralar değil, temel gereklilikler haline gelir.

Denetimin yapay zeka laboratuvarlarının dışında olması gerektiği yönündeki Microsoft argümanı, kurumsalların agent'ları nasıl satın alıp işleteceğini şekillendirecek bir yönetişim ilkesi — ve yeni bir ürün kategorisi — de oluşturuyor. Ama gerilim kaçınılmaz: bu görüşü savunan satıcı, dile getirdiği endişeden kazanç sağlıyor ve bu durum, tam da bu kontrollerin bağımsız biçimde sorgulanmasını akla gelen ilk soru haline getiriyor.