Meta, araştırmacılar 6.800 herkese açık sohbet bağlantısı bulduktan sonra Muse'un sohbet paylaşımını durdurdu

Ne oldu

Meta, kullanıcıların yapay zekâ asistanı Muse ile olan sohbetlerini bir bağlantı üzerinden paylaşmalarını sağlayan özelliği geçici olarak kapattı. The Verge'nin, daha önce Ars Technica'da yayımlanan bir habere dayandırdığı bilgiye göre şirket, güvenlik firması Claroc'taki araştırmacıların bu paylaşım bağlantılarından binlercesinin herkese açık web altyapısını tarayan herkes tarafından bulunabileceğini göstermesinin ardından bu adımı attı.

Muse sözcüsü Tracy Clayton, The Verge'ye yaptığı açıklamada kararı doğruladı: "İnsanlar belirli Muse artefaktlarını paylaşabiliyor; bu, bağlantıya sahip olanların erişebileceği bir sayfa oluşturuyor. Ancak bu raporu incelerken ve bu bağlantıların nasıl keşfedilebileceğine ilişkin değişiklikleri değerlendirirken bu işlevi duraklattık."

Bağlantılar nasıl bulundu

Bu hafta yayımlanan bir raporda Claroc, herkese açık DNS kayıtlarını — yani web trafiğini varış noktalarına yönlendiren dizin sistemlerini — tarayarak 6.800'den fazla Muse paylaşım bağlantısı ortaya çıkardığını duyurdu. Araştırmacıların herhangi bir sisteme sızmasına gerek yoktu; bağlantılar fiilen web'in olağan işleyişi tarafından açığa çıkmıştı.

Claroc'a göre sorunun kökeni, Muse'un paylaşım adreslerini oluşturma biçimiydi. Her URL, sohbeti özetleyen kısa bir ifade olan sohbet başlığıyla rastgele bir tanımlayıcıyı birleştiriyordu. Ana makine adı (hostname) aynı başlığı ve kimliği taşıdığı için, DNS verilerinden kurtarılan bir ana makine adı bağlantının tamamını yeniden oluşturmaya yetiyordu. Claroc'a göre birçok durumda, araştırmacılar sayfayı henüz açmadan önce bile ana makine adı tek başına sayfanın ne içerdiğini ele veriyordu.

Sohbetler ne içeriyordu

Kurtarılabilir bağlantılar üzerinden çalışan Claroc, yüzlerce gerçek Muse sohbetini okuyabildi. The Verge'nin aktardığına göre bunlar arasında bir pazarlama şirketinin gelir incelemesi, bir küçük işletme sahibinin kredi başvurusu, bir iş yerinin tüm yıla yayılan personel takvimi ve bir iş adayının bir yapay zekâ laboratuvarıyla görüşmesine ait notlar yer alıyordu — ticari açıdan hassas ve kişisel bilgiler içermesi muhtemel materyaller.

Tanıdık bir hata biçimi

Bu, bir yapay zekâ paylaşım özelliğinin özelmiş gibi hissettiren sohbetleri amaçlandığından daha görünür hale getirdiği ilk kez olmuyor. The Verge, OpenAI'nin ChatGPT'si, Anthropic'in Claude'u ve xAI'nin Grok'uyla yapılan sohbetlerin daha önce benzer paylaşım bağlantısı mekanizmaları yoluyla Google Arama sonuçlarında ortaya çıktığına dikkat çekiyor.

Neden önemli

Bu olay, "bağlantıya sahip olan herkes" ifadesinin sessizce "nereye bakacağını bilen herkes"e dönüşebildiğinin bir hatırlatıcısı. Paylaşım bağlantıları tüketici yazılımlarında standart bir kolaylıktır; ancak küçük tasarım tercihleri — burada, insan tarafından okunabilir başlıkların ana makine adlarına gömülmesi — paylaşımın sınırlı kalıp kalmayacağını yoksa fiilen herkese açık hale gelip gelmeyeceğini belirledi.

Olay ayrıca insanların yapay zekâ asistanlarını kullanma biçimiyle bu verilerin işlenme biçimi arasındaki uçurumu gözler önüne seriyor. Kullanıcılar gelir rakamlarını, kredi evraklarını ve insan kaynakları programlarını sohbetlere yapıştırdı; belli ki bu yazışmaların özel olduğunu varsaydılar. Meta, bağlantı keşfini nasıl değiştirmeyi planladığını açıklana kadar, daha önce bir Muse sohbeti paylaşmış olan hiç kimse bunu kimin okumuş olabileceğini bilemenin bir yoluna sahip değil. Geniş sektör içinse bu, bağlantı ifşasını istisnai bir durum değil gerçek bir tehdit olarak ele alan, tahmin edilemez ve şeffaf olmayan tanımlayıcılara ve paylaşım akışlarına doğru bir dürtme.