Geliştiriciler, Meta'nın Muse ajanının tüm dosya sistemini ele vermesi için ikna edilebildiğini söylüyor

Geliştiricilerin buldukları

The Verge'ün haberine göre iki geliştirici, Meta'nın Muse yapay zeka ajanını, çalıştığı dosya sisteminin tüm içeriğini arşivleyip paylaşmaya ayrı ayrı ikna ettiklerini söylüyor. Peter James ve Jonny L. Saunders, hafif prompt'larla bile Muse'u Ubuntu sistem dosyaları, uygulama şablonları ve iç dokümantasyon dahil olmak üzere kök dosya sistemini ele geçirmeyi başardıklarını bildiriyor.

Saunders, Mastodon'da James'in sonuçlarını tekrarlamanın "son derece kolay" olduğunu ve ajanın "neredeyse hiç prompt injection direnci göstermediğini" yazdı. İkisinin elde ettiği dosyalar arasında, platformun — dahili kod adıyla Hatch — istekleri nasıl işlediğini, verileri nasıl yönettiğini ve Gmail gibi harici servislere nasıl bağlandığını ayrıntılı biçimde açıklayan düz metin Markdown ve JSON dokümanları yer alıyordu.

Saunders, bir yapay zeka sisteminin gözle inandırıcı görünen dosyaları uydurmuş olabileceği gibi bariz itirazı şöyle yanıtladı: Muse saniyeler içinde yüzlerce megabaytlık, gerçek gibi görünen kütüphane kodu ve derlenmiş binary üretti. Onun deyişiyle, model bir dakikadan kısa sürede tüm bir Ubuntu dosya sistemini havadan var etmediyse, bu dökümün gerçek olması muhtemel.

The Verge bunu tekrarladı

Bir Verge muhabiri tekniği doğrudan test etti. Dosya sistemini paylaşması ilk istendiğinde Muse reddetti ve bunun bir güvenlik riski olduğunu söyledi. Başkalarına arşivler ürettiğine dair kanıt gösterildiğinde ajan, bunu yapmaması gerektiğini kabul etti ama yine kök dizinin tam bir kopyasını vermeyi reddetti. Ancak yeni bir oturumda, iltifat ve merak ifadeleriyle yaklaşıldığında Muse, /opt/hatch ve /home/hatch dizinlerinin hassas öğelerden — SSH anahtarları gibi — arındırılmış kopyalarını ürettiğini söyledi, tam dizin ağacını gösterdi ve kullanıcının ilgisini çeken herhangi bir alt ağacın güvenli kopyalarını çekmeyi teklif etti. Rapora göre çıktı, James ve Saunders'ın paylaştıklarıyla uyumluydu.

Meta'nın yanıtı

Meta, olayın bir güvenlik ihlali olarak çerçevelenmesini reddediyor. Muse her kullanıcı için sağlanan kalıcı bir Linux sanal makinesinde çalışıyor ve sözcü Daniel Roberts, The Verge'e bunun önünüzdeki dizüstü bilgisayara benzer olduğunu söyledi: elbette dosyalarını görebilirsiniz. Sanal makineden veri dışa aktarmanın, Meta'nın altyapısına veya diğer kullanıcıların verilerine ayrıcalıklı erişim sağlamadığını savundu.

Roberts durumun değişebileceğine işaret ederek, Meta'nın ürünü güncellemeye devam ettiğini ve kullanıcıların sanal makineleri hakkında ne kadar bilgi mevcut olduğunda farklar fark edebileceklerini yayına söyledi.

Aynı haftada ikinci güvenlik açığı

Dosya sistemi ifşası, günler içinde ortaya çıkan ikinci Muse güvenlik sorunu. Güvenlik araştırmacısı Patrick Wardle daha önce, bir saldırganın ajanı ele geçirmesine, transkripsiyon işlemini yönlendirmesine ve bir kurbanın Muse hesabına erişmesine izin verebilecek bir exploit açıkladı. The Verge, Meta'nın bu açık için hızlıca bir hotfix yayınladığını bildiriyor.

Dökümün ortaya çıkardıkları

The Verge'e göre geliştiricilerin elde ettiği materyal, ajanın pazarlama söyleminin altında nasıl çalıştığına dair alışılmadık ölçüde somut bir bakış sunuyor. James, Muse'un hafızasını düz Markdown dosyalarında sakladığını ve her gece yakın zamanda yapılan konuşmaların bir "rüya" gözden geçirmesini yaparak sonuçları gelecekteki oturumlar için yönergelere katladığını buldu.

Saunders, Muse'un yeteneklerinden bir kısmının — abonelik iptali ve kontrolden çıkan ajan doğumunu yöneten mekanizma dahil — ortaya çıkan (emergent) değil sert kodlanmış olduğunu keşfetti. Ayrıca arka planda Muse'u çalıştıran bash ve Python script'lerinin çoğunun Claude ile üretilmiş olabileceğini tahmin ediyor; The Verge bunun doğrulanmadığına dikkat çekiyor. James ayrıca, Muse'a bir ev ağındaki cihazlara erişim vermeye yarayacak gibi görünen ve duyurulmamış Meta Home Link adlı bir donanım entegrasyonuna atıflar gördü; Meta böyle bir özelliği duyurmadı ve belki hiç sunmayacak.

Neden önemli

Yapay zeka ajanlarına gerçek sistemlere — dosyalara, hesaplara, script'lere ve muhtemelen ev ağlarına — giderek daha fazla gerçek erişim veriliyor. Bu olay, kullanıcı ile ajanın çalıştığı ortam arasındaki bariyerin ne kadar ince olduğunu gösteriyor: yalnızca sosyal baskı, Muse'un kendi iç işleyişini paketlemesini sağlamak için yeterliydi. Meta'nın her sanal makinenin kişisel ve izole olduğu yönündeki argümanı teknik olarak makul, ancak sızdırılan materyal yine de şirketin açıklamadığı mimari ayrıntıları, entegrasyonları ve duyurulmamış özellikleri ortaya koyuyor — saldırganların bir sonraki zayıf noktayı bulmasına yardımcı olan tam da bu tür bilgiler. Aynı haftadaki Wardle'ın hesap ele geçirme exploitiyle birleşince, tablo, güçlü yeni bir ajan platformunun savunmaları sağlamlaştırıldığından daha hızlı piyasaya sürüldüğünü çiziyor.