Meta, araştırmacılar 6.800 özel bağlantıyı ortaya çıkardıktan sonra Muse sohbet paylaşımını durdurdu

Gizlilik ihlalinden sonra Meta, Muse bağlantı paylaşımını durdurdu

Meta, genel amaçlı yapay zeka ajanı Muse'un sohbet paylaşım özelliğini askıya aldı; bunun nedeni, güvenlik araştırmacılarının sohbetleri özel olarak paylaşmak için üretilen bağlantıların neredeyse hiç çaba harcanmadan keşfedilebildiğini göstermesi ve bu durumun hassas kişisel ve ticari bilgileri açığa çıkarmasıydı. Şirket, bulguları pazartesi günü raporlayan Ars Technica'ya yaptığı açıklamada askıya almayı doğruladı.

Araştırmacıların buldukları

Güvenlik firması Claroc'taki araştırmacılar, Muse kullanıcılarının sohbetlerini başkalarıyla paylaşmak için ürettiği 6.800 bağlantıyı listeleyebildiklerini söyledi. Bu tür paylaşım özellikleri genellikle içeriği barındıran bir sayfayı yükleyen benzersiz bir URL oluşturarak çalışır ve güvenlikleri, URL'de kimsenin tahmin edemeyeceği kadar metin bulunması ve istenmeyen kişilerin bunu bulamayacağı varsayımına dayanır.

Ars Technica'ya göre bu varsayım, URL'lerin nasıl oluşturulduğuna dair temel bir tasarım kararı nedeniyle Muse için geçerli değildi. Araştırmacılar bağlantıların birkaç yüzünü açtıktan sonra, açıkça kamuya açık olmaması gereken içerikleri belgelediler; bunlar arasında bir adayın öncü bir yapay zeka laboratuvarıyla gizli bir yönetici arama görüşmesi için hazırlık notları, bir ulusal pazarlama şirketinin CEO'suna ithaf edilmiş iç gelir incelemesi, küçük bir işletme sahibinin talep edilen tutarı da içeren kredi başvurusu, kısmi hesap numarası ve işlem ayrıntıları içeren bir banka dolandırıcılık uyarısının yer aldığı bir yapılacaklar listesi, bir gayrimenkul yatırımcısının mülk adreslerini ve kesin finansal rakamları listeleyen iç performans raporu ve düzinelerce çalışanın adını ve planlı izinlerini gösteren bir iş yerinin tam yıl personele ait tatil takvimi yer alıyordu.

Araştırmacılar, bu tür bağlantıları toplamanın gerçek bir çaba gerektireceğini beklediklerini yazdı. Onların ifadesiyle: "Tek bir sorgu aldı."

Bağlantılar nasıl keşfedilebildi

Ars Technica'nın raporuna göre URL'lere giden en kolay yol, çeşitli ticari hizmetlerden herhangi biri üzerinden pasif DNS araması yapmak. Pasif DNS veritabanları, etki alanı adlarının IP adreslerine çözümlenmesinin geçmişini, nameserver ve mail-server kayıtlarıyla birlikte, özyinelemeli çözümleyicilerdeki ve diğer altyapıdaki sensörlerden toplanan verileri kullanarak kaydeder. Hedeflenen alıcı bir paylaşım bağlantısına tıkladığında, ortaya çıkan DNS çözümlemesi aranabilir bir veritabanına kaydedilir. Bu, Muse'un URL oluşturma yöntemiyle birleşince, araştırmacılara geçerli paylaşım bağlantılarını ölçekli biçimde listelemek için pratik bir yol verdi.

Meta'nın yanıtı

Ars Technica'ya e-postayla gönderdiği bir açıklamada Meta, araştırmacıların farklı senaryoları dile getirebilmesi ve ürünün geliştirilmesine yardımcı olabilmesi için Muse bug bounty programını açtığını söyledi ve paylaşım işlevini "bu raporu gözden geçirirken ve bu bağlantıların nasıl keşfedilebileceğine ilişkin değişiklikleri değerlendirirken" durdurduğunu doğruladı.

Claroc'un kurucu ortağı ve CTO'su Asaf Aprozper, bulguları 8 Ekim'de Meta'nın bug bounty programı üzerinden gönderdiğini ve ayrıca LinkedIn üzerinden Meta çalışanlarına ulaşmaya çalıştığını, ancak iki kanaldan da yanıt alamadığını Ars Technica'ya söyledi. Meta'nın askıya alma kararı, ancak Ars Technica şirket ile bu davranış hakkında sorular için temas kurduktan sonra geldi.

Zamanlama Meta için dikkat çekici. CEO Mark Zuckerberg geçen ay Muse'un "baştan sona gizlilik ve güvenlik için inşa edildiğini" söylemişti; raporlanan bulgular bu iddiayı çelişir gibi görünüyor.

Neden önemli

Muse gibi genel amaçlı yapay zeka ajanları kendisine güvenilmesi için tasarlanır: kullanıcılar kredi belgeleri, gelir rakamları, takvimler ve kişisel planları yapıştırır, çünkü ajanların amacı tam olarak budur. Bu sohbetleri sızdıran bir paylaşım mekanizması, kullanışlılık özelliğini onu kullanan herkesi etkileyen bir gizlilik olayına dönüştürür.

Keşif tekniği de Meta'nın çok ötesinde önemli. "Bağlantıya sahip olan herkes" paylaşımının güvenliği tamamen URL'lerin tahmin edilemez olmasına bağlıdır ve pasif DNS'un bu tür bağlantıları ölçekli biçimde keşfetmek için kullanılabilir bir yan kanal olduğu artık gösterilmiştir. Paylaşım URL'lerini öngörülebilir bileşenlerden oluşturan ve bağlantıları normal DNS üzerinden çözen her hizmet aynı açığa sahip olabilir; ayrıca toplama işlemi hedefin altyapısının dışında gerçekleştiği için hizmetin kendi sunucularında hiçbir iz bırakmaz.

Son olarak, ifşa zaman çizelgesi süreç sorularını gündeme getiriyor. 8 Ekim'de gönderilen bir bug bounty raporuna, bir haber kuruluşu neredeyse iki hafta sonra şirkete baskı yapana kadar kamuya açık bir yanıt gelmedi; bu da ödül programlarının yalnızca satıcılar araştırmacıların gönderdikleri üzerinde gerçekten harekete geçerse kullanıcıları koruyabileceğini gösteriyor.