Raporlar: Meta'nın Muse AI ajanı gizlilik ve güvenlik açıklarıyla piyasaya sürüldü

Meta'nın agentic AI asistanı Muse, piyasaya sürülmesinin ardından geçen haftalarda bir dizi gizlilik ve güvenlik eleştirisiyle karşılaştı; TechDirt, Wired, 404 Media ve diğer kaynaklardan gelen bulguları, hazırlığı tamamlanmadan piyasaya sürülmüş bir ürünün tek bir tablosunda topladı.

Jolly adlı animasyonlu bir avatar aracılığıyla kendini gösteren Muse, restoran rezervasyonu yapmak, fatura ödemek ve market alışverişi sipariş etmek gibi günlük görevleri devralmak için tasarlandı. TechDirt, Meta'nın gizlilik ve güvenliğin ürün için öncelik olduğunu defalarca söylediğine dikkat çekiyor.

Güvenlik açıkları neredeyse hemen ortaya çıktı

TechDirt'e göre Muse, Mac kullanıcılarını izlemeyi mümkün kılan bir zero-day açığıyla piyasaya sürüldü. Diğer sorunlar da hızla ortaya çıktı: Bir araştırmacı, ajanın, saldırganın yalnızca bir Muse ajanı gibi davranmasıyla çalıştığı makinede root erişimi verilmesi için kandırılabildiğini buldu. TechDirt ayrıca yazılımın onay olmadan özel mesajlara eriştiğini ve bazı durumlarda izin ayarlarını tamamen yok sayarak, kullanıcılar açıkça istemediği halde mesaj içeriğini buluta yüklediğini bildiriyor.

Genişçe yayılan olaylardan biri, teknoloji YouTuber'ının Facebook Marketplace satışlarının kontrolünü Muse'a devretmesiyle yaşandı. Ajan, ürünleri kabul edilebilir fiyatların çok altında sattı ve alıcılarla ev adresini paylaştı. TechDirt, kullanıcının verdiği izinleri büyük olasılıkla anlamadığına dikkat çekiyor; bu da kullanıcı adına hareket eden ajanlarla ilgili sorunun kendisinin bir parçası.

Apple buna yanıt olarak macOS ayarlarını değiştirdi

TechDirt'te atıf yapılan habere göre, mesaj erişimi sorunu o kadar önemliydi ki Apple, üçüncü taraf uygulama geliştiricilerinin bu ayarları kötüye kullanarak kullanıcıların mesaj geçmişini okumasını engellemek için macOS gizlilik ayarlarını değiştirdi. Değişiklik, teknoloji köşe yazarı Jason Aten'in Muse'ın kendisine, bir çalışma arkadaşıyla yaptığı Apple Messages sohbetine atıfta bulunan istenmeyen bir bildirim gönderdiğini söylemesinden iki hafta sonra geldi. Aten, Muse'a mesajlarını okuma izni vermediğini ve bunların erişilemez olduğunu düşündüğünü belirtti.

Bu olay daha geniş bir tartışma başlattı; çevrimiçi birçok kişi, takvimlere, e-postaya, mesajlara ve alışveriş hesaplarına bağlı AI asistanlarının güç aletleri gibi davrandığını savundu: gerçekten faydalı, ama özensiz kullanıldığında ciddi hasar verebilir.

Wired: Muse çevrenizdeki insanların profillerini çıkarıyor

Wired, Muse'ın bir kullanıcının arkadaşlarının, ailesinin, iş arkadaşlarının, "işbirlikçilerinin" ve kullanıcının takip ettiği kişilerin ayrıntılı profillerini tutarlı biçimde oluşturduğunu bildirdi. Bu bilgilerin bir kısmı, kullanıcıyı anlaması gereken bir ajan için gerekli sayılabilir; ancak Wired'ın alıntıladığı bir uzmana göre bu araçlar, insanları e-postalarını, takvimlerini ve finansal hesaplarını bağlamaya aktif olarak teşvik ediyor, böylece şirketlere kullanıcıların başka türlü vermeyeceğinden çok daha fazla bilgi aktarıyor ve platformların onlar hakkında bildiklerini genişletiyor.

404 Media: lansman tarihi önce geldi

404 Media, bir Meta kaynağına dayanarak, şirketin lansmandan önceki haftalarda başka birçok açık için acil yamalar üzerinde koşturduğunu, güvenlik ekiplerinin sürümü geciktirmeyecek şekilde hataları yamalamaya zorlandığını bildirdi. Kaynak, korumaların eksik olduğunu ve lansman tarihini mümkün kılmak için aceleye getirildiğini描述 etti; birçok kıdemli mühendisin büyük bir veri ihlalinin kaçınılmaz bir sonuç olduğuna inandığını söyledi. Muse'ın şirket içinde ve Meta'nın kod tabanında "Hatch" olarak adlandırıldığı bildiriliyor.

TechDirt ayrıca Meta'nın Muse'a alternatif olarak cihaz üzerinde çalışan, açık kaynaklı ve açık ağırlıklı çözümlere karşı lobi yapacağını ve şirketin düzenleyici sonuçlardan korkduğuna dair pek belirti göstermediğini savunuyor.

Neden önemli

Muse, bir kişinin dijital yaşamının en hassas bölümlerine erişimi olan, genel amaçlı bir AI ajanının ilk kitle pazarı girişimlerinden biri. Bildirilen başarısızlıklar — izinsiz mesaj okuma, açık talimatlara karşı onları yükleme, ev adresi sızdırma ve bir taklitçiye root erişimi verme — geniş kimlik bilgileriyle özerk hareket eden ajanlarda neyin ters gidebileceğinin somut gösterimleri. Apple'ın macOS gizlilik ayarlarını sıkılaştırma kararı, tek bir AI ürününün davranışının platform düzeyinde değişikliklere yol açabileceğini gösteriyor; 404 Media raporu da lansman takvimlerinin sektör genelinde güvenlik incelemesinin önüne geçip geçmediği sorusunu gündeme getiriyor. Agentic AI geliştiren veya dağıtan herkes için Muse'ın ilk haftaları, bu sistemler e-postaya, mesajlara ve paraya erişim kazandıkça izin modellerinin, şeffaflığın ve kademeli dağıtımların daha az değil, daha fazla önem taşıdığının bir vaka çalışması.