Meta, yerel saldırganların yapay zeka ajanını ele geçirmesine izin veren Muse macOS sıfır gün açığını yamaladı

Meta Muse için acil düzeltme yayınladı

Meta, yakın zamanda piyasaya sürdüğü yapay zeka ajanı Muse'un macOS sürümündeki sıfır gün açığını, bir güvenlik araştırmacısının bu hatanın asistanın kontrolünü ele geçirmek ve kullanıcının makinesindeki izinleri kötüye kullanmak için kullanılabileceğini göstermesinin ardından yamaladı.

The Verge'ye göre hatayı, macOS güvenliği alanında uzun bir geçmişe sahip araştırmacı Patrick Wardle buldu. The Verge, Ars Technica'nın haberine dayanarak, Wardle'ın Muse içinde belgelenmemiş bir ayar tespit ettiğini belirtiyor; bu ayar, cihazda zaten çalışan bir kodun uygulamanın transkripsiyon işlemini Meta'nın sunucularından saldırganın kontrolündeki bir uç noktaya yönlendirmesini sağlıyor ve bu da kurbanın Muse hesabına giden yolu açıyordu.

Saldırı nasıl işliyordu

Bildirildiğine göre iki tasarım kararı bir araya gelerek bu zafiyeti oluşturdu. Muse dikte işlemini cihazda değil bulutta gerçekleştiriyor ve Mac'teki herhangi bir uygulama, yalnızca Muse'un kendisi değil, Muse'un tüm belgelenmemiş ayarlarını değiştirebiliyordu. Bu seçimler birlikte, yerel kötü amaçlı yazılımın ajanın verilerini nereye gönderdiğini sessizce yeniden yapılandırabileceği anlamına geliyordu.

Wardle, açığı test etmek için kavram kanıtı saldırıları geliştirdi. Ele geçirilen ajan üzerinden fotoğraf çekmeyi ve diske kötü amaçlı dosyalar yazmayı başardı ve birçok durumda Muse kullanıcıya hiçbir uyarı vermedi. Ars Technica'ya söylediği gibi, bir saldırgan kapsamlı bir Mac çalma yazılımı yazmak yerine "doğrudan yapay zeka asistanının kendisinden yararlanabilir" ve Meta'nın güvenliği sonradan eklenen bir unsur olarak görmek yerine baştan itibaren tasarımın parçası yapması gerektiğini savundu.

Bu keşif, Meta'nın bu ayın başında ajanı tanıttığında Muse'a vurguladığı gizlilik ve güvenlik vurgusuyla pek bağdaşmıyor.

Meta pratik riski düşük olarak değerlendiriyor

Meta, Ars Technica'nın haberinin yayına girmesinden saatler içinde bir yama çıkardı. Meta Superintelligence Labs'tan David Singleton, X'teki bir gönderide sorunun uzaktan erişimli bir açık değil, yerel bir ayrıcalık yükseltmesi olduğunu söyledi: açığı kullanmak için kullanıcının hesabı altında zaten çalışan kötü amaçlı bir kod gerekiyordu ve bu da Muse Mac uygulaması kullanıcıları için pratik riski oldukça düşük kılıyordu. Yine de sorunu çözmek için bir düzeltme yayınlandığını doğruladı.

İnceleme altındaki dikkat çekici bir lansman

Zafiyet, Meta rakip yapay zeka sağlayıcılarından pazar payı geri kazanmaya çalışırken Muse'un zaten dikkat merkezi olduğu bir dönemde ortaya çıktı. Amazon kısa süre önce ajanı e-ticaret platformundan engelledi ve Meta'nın bu erişim için baştan beri izin almadığını söylüyor.

Madalyonun diğer yüzünde ise The Verge, Muse mobil uygulamasının ilk 12 günündeki tahmini indirme sayısının ChatGPT'nin ABD ve Kanada'daki ilk 12 günlük çıkışını geride bıraktığını ve Meta hisselerinin pazartesi günü yüzde 11 yükseldiğini bildiriyor.

Neden önemli

Bu, ajan tabanlı yapay zekanın beraberinde getirdiği güvenlik ödünleşimlerinin en net erken örneklerinden biri. Kamerayı kullanabilen, dosya yazabilen ve oturum açılmış bir hesap üzerinde işlem yapabilen bir asistan, tanımı gereği bir yetenek paketidir ve Wardle'ın çalışması, bu paketin bir makinede zaten foothold kazanmış kötü amaçlı yazılım için ne kadar değerli olduğunu gösteriyor. Meta, yerel erişimin anlamlı bir ön koşul olduğu konusunda haklı; ancak bir kullanıcının hesabı altında zaten çalışan kötü amaçlı yazılım, infostealer'lar için normal çalışma koşuludur ve ayrıcalıklı bir ajan, bu saldırganlara aksi halde kendilerinin geliştirmesi gereken yetenekleri sunar. Ajan çıkarma yarışındaki her tedarikçi için çıkarım şu: belgelenmemiş ayarlar, buluta giden veri akışları ve süreçler arası kontroller saldırı yüzeyinin bir parçasıdır ve bir araştırmacı alternatifi gösterdikten sonra yamalanmak yerine ilk tasarım incelemesinden itibaren bu şekilde ele alınmaları gerekir.