deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak dev.to (home feed)

Meta'nın Muse ajanı, internete yönelik işlemler için Sentinel onayıyla bir Secure VM içinde çalışıyor

Meta'nın Muse kişisel ajanı, bulutta ayrı bir Secure VM üzerinde çalışıyor; internete yönelik her işlem Sentinel adlı bir ajan tarafından onaylanıyor ve kullanıcıya görünür bir denetim izi tutuluyor. Ancak kullanıcının anahtara sahip olduğu Confidential VM henüz yayımlanmadı.

Meta'nın Muse ajanı, internete yönelik işlemler için Sentinel onayıyla bir Secure VM içinde çalışıyor

Meta, alışılmadık bir güvenlik mimarisiyle bir tüketici yapay zeka ajanı yayımladı. 8 Eylül'de Meta'nın haber odası üzerinden tanıtılan Muse kişisel ajanının, Netics adlı güvenlik firmasının dev.to'da yayımladığı bir analize göre bulutta ayrı bir sanal makine üzerinde çalıştığı, internete yönelik her işlemin ayrı bir Sentinel ajanı tarafından onaylandığı ve kullanıcının görebildiği eksiksiz bir denetim izinin tutulduğu belirtiliyor.

Yüzeysel bakıldığında Muse tanıdık bir ürün: insanların zaten kullandığı uygulamalarda çalışıyor, e-posta gönderiyor, seyahat rezervasyonu yapıyor ve Link üzerinden ödeme gerçekleştiriyor. Netics'in dikkat çekici bulduğu şey ise çerçeveleme. Çoğu tüketici ajanı izin ayarları olan sohbet botları olarak sunulurken, Muse zorunlu sınırlara sahip, korumalı bir bilgisayar olarak konumlandırılıyor — modelin talimatlarına gömülü bir vaat değil, gerçek bir işletim zarfı.

İzolasyon, aracılık ve denetim

Tasarım üç özelliğe dayanıyor. İzolasyon: Muse, başka hiçbir ajanın erişemeyeceği şekilde izole edilmiş, buluttaki kendi ayrı makinesinde çalışıyor ve bu makine kullanıcının verilerini ile bağlı hizmetlerin kimlik bilgilerini barındırıyor. Aracılık: Muse'un yaptığı hiçbir işlem, Sentinel onaylamadan internete ulaşamıyor ve Sentinel gerektiğinde kişiden izin istiyor. Denetim: Muse, yaptığı ve yapmayı planladığı her şeyin tam kaydını gösteriyor.

Ajanın okuyamadığı kimlik bilgileri

Kimlik bilgisi yönetimi, en güçlü örüntü olarak öne çıkarılıyor. Bildirildiğine göre Muse, parolaları veya ödeme yöntemlerini göremiyor; kişinin paylaştığı kimlik bilgileri güvenli depoya alınıyor, böylece ajan bunları hiç görmeksizin onlarla işlem yapabiliyor — tarayıcıya yazılan parolalar dahil. Netics bunu, bir servise temel gizli bilgilerin değil dar kapsamlı erişimin verildiği kurumsal uygulamaya benzetiyor. Ajan, anahtarın kendisini değil, hareket etme yeteneğini alıyor ve teknik bilgisi olmayan kişler de mimariyi anlamadan bu avantajdan yararlanıyor.

Kontroller kullanıcıda kalıyor

Duyuru, kullanıcılara bir güvenlik mühendisinin isteyeceği kontrolleri veriyor. Kişiler, Muse'un hangi uygulamalara bağlanacağını ve her birine ne kadar erişim verileceğini seçebiliyor — e-posta için örneğin Muse'un yalnızca postaları okuyup okuyamayacağı ya da kişinin adına gönderme yapıp yapamayacağı belirlenebiliyor. Erişim her zaman değiştirilebilir veya iptal edilebiliyor. Kullanıcılar, etkileşimlerinin Meta'nın modellerini eğitmek için kullanılmasından vazgeçebiliyor ve Muse'a öğrendiği belirli şeyleri unutmasını söyleyebiliyor. Meta, Muse'un bir kişinin konuşmalarını veya VM verilerini reklam sistemleriyle paylaşmadığını belirtiyor.

Netics'e göre bunlar, bir iş ajanı için belirtilmesi gerekenlerle örtüşüyor: varsayılan olarak en düşük ayrıcalık, yetenek bazında kapsam seçimleri, iptal imkânı ve denetim kaydı. Tüketici sürümü daha basit ve daha az yapılandırılabilir, ancak yön doğru ve bu örüntü müşteriye yönelik ajan geliştiren her ekibe aktarılabilir.

Duyurunun açık bıraktıkları

En güçlü gizlilik iddiası henüz hayata geçmiş değil. Tüm makinenin — veriler ve konuşmalar dahil — yalnızca kullanıcının elindeki bir anahtarla şifrelendiği ve bu sayede Meta'nın bile erişemediği Confidential VM'in duyuruya göre bu yılın ilerleyen dönemine planlandığı belirtiliyor. Bu yayımlanana kadar güven modeli, Secure VM sınırını Meta'nın kendi uygulamasına dayanıyor.

Sentinel de yanıtlanmamış soruları beraberinde getiriyor. Politika kapsamı yayımlanmadığı için neyin hassas sayıldığı, kullanıcının bunu geçersiz kılup kılamayacağı ve üçüncü taraf bağlantılarının nasıl denetlendiği açık sorular olarak duruyor. Duyuru model tarafında da — Muse'un ne öğrendiği, verilerin nerede saklandığı ve vazgeçme durumunda ne olacağı konusunda — çok az şey söylüyor; Netics'in Avrupa'daki paydaşların GDPR ve AB Yapay Zeka Yasası kapsamında inceleyeceğini beklediği ayrıntılar tam da bunlar.

Neden önemli

E-posta gönderen, seyahat rezervasyonu yapan ve para转移ndeed hareket ettiren ajanlar artık yalnızca sohbet arayüzleri değil ve güvenlikleri yalnızca model davranışına dayanamaz. Netics'in okumasına göre Muse, bir tüketici ajanını gerçek bir güvenlik çevresi içine yerleştiren ilk ana akım girişim: izole bir VM, aracılı edilen ağ çıkışı, ajanın okuyamadığı kapsamlı kimlik bilgileri, iptal edilebilir erişim ve kullanıcının görebildiği bir denetim günlüğü. Bu şablon doğrudan kurumsal ajanlara uygulanabilir ve diğer satıcıların ölçüleceği kıyaslama noktası olması muhtemel. Uyarı da en az bunun kadar önemli: iddialar şu an kanıtların önünde. Kullanıcının anahtara sahip olduğu Confidential VM yayımlanana kadar kullanıcılar, sınırı kendisinin denetlemesine Meta'ya güveniyor ve Sentinel'in kuralları ile model tarafındaki veri akışları belgelenmemiş durumda.

  • #meta
  • #ai-agents
  • #security
  • #privacy
  • #virtualization

İlgili yazılar