Meta'nın Muse uygulamasının Facebook, Instagram ve Threads genelinde savunmasız kişilerin listelerini derlediği iddia edildi

Dev.to gönderisi ne iddia ediyor

dev.to'da yayınlanan bir gönderi, Meta'nın Muse uygulamasıyla ilgili çarpıcı bir iddiada bulunuyor: Bir kullanıcı bir insan grubunu "savunmasız" olarak tanımladığında, Muse bu kişilerle ilgili bilgileri Facebook, Instagram ve Threads'ten otomatik olarak toplayıp bir liste halinde bir araya getiriyor. Yazar, bulguyu bir soruşturmaya atfediyor ve hikayeye işaret eden kaynağı da bir HackerNews AI bülteni olarak gösteriyor; ancak soruşturmayı kimin yürüttüğünü belirtmiyor.

Aynı gönderiye göre Meta, Muse'u 8 Eylül'de yayınladı ve uygulama kısa sürede iPhone'da en çok indirilen ücretsiz uygulama oldu. İddia edilen liste oluşturma davranışı, yazarın tehlikeli olarak işaretlediği kısım. Yazarın çerçevesine göre, kişisel bilgileri toplulaştırmak, bir AI sistemi bu toplamayı yaptığında, bir insanın elle aramalar yürütmesine kıyasla çarpıcı biçimde daha kolay ve daha hızlı.

Açıkça belirtmeye değer bir uyarı: Bu hikaye tek bir ikincil kaynağa dayanıyor. dev.to gönderisi, altında yatan habere bağlantı vermiyor veya onu adlandırmıyor; bu yüzden Muse'a ilişkin spesifik iddialar doğrulanmış değil, aktarılmış olarak değerlendirilmeli. Bununla birlikte, gönderideki mühendislik tavsiyesi kendi başına ayakta duruyor.

Risk yalnızca Meta ile sınırlı değil

Yazarın merkezindeki argüman bağımsız geliştiricilere ve küçük ekiplere yönelik. Bir tüketici AI ajanı insanların profilini çıkarmaya yönlendirilebiliyorsa, aynı hata modu bağımsız bir geliştiricinin yayınladığı herhangi bir chatbot'ta veya otomasyon betiğinde de mevcut. Kimse hakkında dosya oluşturma niyetinde olmayan bir servis, kullanıcıların kendisinden istedikleri şeyin bir yan etkisi olarak yine de başkalarının profillerini toplamaya başlayabilir ve yasal ve etik sorumlulukla karşılaşan kişi kullanıcı değil, geliştirici olabilir.

Gönderinin önerdiği dört önlem

Yazar, tek kişilik bir ekibin hemen uygulayabileceği dört önlem öneriyor:

• Prompt düzeyinde engelleme. Kullanıcı girdisini ayrıştır ve "liste", "profil" gibi hassas terimler ya da belirli bir grubu hedefleme atıfları içeren istekleri reddet. Önerilen uygulama bilinçli olarak basit: bir regular expression kontrolü ve ardından bir reddetme mesajı.
• Veri minimizasyonu. Harici API'leri çağırırken yalnızca özelliğin gerçekten ihtiyaç duyduğu alanları iste. Gönderideki örnek: Bir e-posta gönderme fonksiyonu yalnızca bir kullanıcı adı gerektiriyorsa, adresi de depolamak için bir neden yoktur.
• Son kullanma tarihli denetim kayıtları. Hangi kullanıcının hangi prompt'u gönderdiğini kaydet, ardından kayıtları belirlenen bir sürenin sonunda otomatik olarak sil; 30 gün öneriliyor. Kayıtlar bir VPS üzerinde yerel dosyalar olarak tutuluyor, cron'a kayıtlı bir rotation betiğiyle yönetiliyor ve eklenen maliyet neredeyse sıfırda kalıyor.
• Kullanım koşulları. Üçüncü tarafların otomatik profilini çıkarmayı açıkça yasaklayan bir madde ekle ve bunu ihlal eden hesapları engelle. Yazar bunun hukuken tam olarak uygulanabilir olmadığını kabul ediyor ancak yine de riski azalttığını savunuyor.

Maliyet argümanı

Gönderiye göre 1 GB'lık bir VPS üzerinde çalışan ilk üç önlem, barındırma faturasına fiilen hiçbir şey eklemiyor. Yazar bunları bir yatırım olarak çerçeveliyor: Bir gizlilik veya güvenlik olayının tetikleyebileceği yasal maliyetler ve marka zararı, engelleme, minimizasyon ve kayıt tutma önlemlerini kurma çabasını çok aşıyor. Kapanış tavsiyesi, özetle, sert: Riski görmezden gelerek asla kolaylığı seçme.

Neden önemli

Muse'a karşı ileri sürülen iddia doğru çıkarsa, bu, sosyal platform verisine erişimi olan bir AI ajanının bir ihlal yoluyla değil, sıradan kullanım yoluyla ne kadar kolayca bir profil çıkarma aracına dönüştürülebileceğini gösteriyor. Dil modellerini harici API'lere bağlayan ajanlar geliştirenler için gönderi pratik bir kontrol listesi olarak işlev görüyor: prompt'ları filtrele, daha az veri topla, son kullanma tarihli kayıt tut ve birileri senin yerine sınmadan önce kullanım koşullarında sınırları belirle. Bu koruma bariyerleri başta neredeyse hiçbir şeye mal olmuyor. Bir olaydan sonra — yasal veya itibarsal — bunları geriye dönük eklemek çok daha pahalıya gelir ve hukuk ekibi olmayan bağımsız geliştiriciler bu faturayı karşılamaya en az donanımlı olanlar.