deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak TechCrunch

Meta'nın Muse yapay zekâ ajanının kullanıcı sohbetlerini karıştırdığı ve banka bakiyelerini ifşa ettiği iddia edildi

Reuters'ın incelediği Meta'ya ait iç paylaşımlar, Muse yapay zekâ ajanının başka kullanıcıların banka bakiyelerini, çocuk bakımı taleplerini ve Signal mesajlarını ortaya çıkardığını gösteriyor; bu, şimdiye kadarki en hızlı büyüyen uygulamalardan birinde ciddi bir gizlilik ihlali.

Meta'nın Muse yapay zekâ ajanının kullanıcı sohbetlerini karıştırdığı ve banka bakiyelerini ifşa ettiği iddia edildi

Çalışanlar hesaplar arası veri sızıntıları bildiriyor

TechCrunch'ın aktardığına göre, şirketin iç paylaşımlarını inceleyen bir Reuters haberine göre Meta çalışanları, şirketin yapay zekâ ajanı Muse'un farklı hesaplara ait sohbetleri birbirine karıştırdığını ve bu süreçte özel kullanıcı verilerini ifşa ettiğini şirket içinde gündeme getirdi. Anlatılan olaylar sıradan teknik aksaklıkların ötesinde: çalışanlar, Muse'un hiç yapmadıkları çocuk bakımı taleplerini, hiç istemedikleri kariyer tavsiyelerini, hiç vermedikleri ürün siparişlerini ve başkalarına ait banka bakiyelerini ortaya çıkardığını söyledi.

Bulgular kamuya açık bir açıklamadan değil iç paylaşımlardan geldiği için sorunun kapsamı, kaç kullanıcının etkilendiği ve sızan bilgilerin bunları bildiren çalışanların ötesine ulaşıp ulaşmadığı dâhil, belirsizliğini koruyor.

Banka bakiyeleri ve bir Signal hatırlatması

Haberde iki örnek öne çıkıyor. Birinde bir çalışan, meslektaşlarına, hava ve gelgit koşulları üzerine sıradan bir sohbet sırasında Muse'un istenmeyen ek bir mesaj göndererek iki banka bakiyesini listelediğini söyledi: Capital One'da 2.722,58 dolar ve Charles Schwab'da 5.899,57 dolar. Çalışanlar bu bakiyelerin kendilerine ait olmadığını belirtti.

Diğerinde, kişisel telefonunda Muse kullanan bir çalışan, ajandan, uçtan uca şifreli mesajlaşma uygulaması Signal'de kız kardeşinden gelen bir mesajı yanıtlaması için bir hatırlatma aldı. Habere göre çalışan, "Bu son derece bir gizlilik ihlali gibi görünüyor. Kesinlikle diğer uygulamalara erişim izni vermedim, böyle bir şey için izin istendiğini de hatırlamıyorum" diye yazdı. Bu ayrıntı önemli, çünkü ajanın kendi uygulaması dışındaki verileri kullanmış olabileceğine işaret ediyor; kullanıcı bu erişimi hiç vermediğini söylüyor.

İç denetim altındaki hızla büyüyen bir uygulama

Muse eylülde yayınlandı ve o zamandan beri 10 milyondan fazla indirildi; bu da onu kayıtlardaki en hızlı büyüyen uygulamalardan biri yapıyor, diye belirtiyor TechCrunch. Bu ivme riskleri ciddi şekilde artırıyor: bu ölçekte yayına alınmış bir ajandaki bir veri işleme hatası, sınırlı bir beta sürümündeki aynı hattan kategorik olarak farklı bir sorundur.

Ne Reuters ne de TechCrunch, çapraz bulaşmaya aslında neyin neden olduğunu bildiriyor; bir oturum yönlendirme hatası mı, ajanın sohbet bağlamını getirme biçimindeki bir arıza mı yoksa diğer servislerden veri alma biçimiyle ilgili bir şey mi. Meta, TechCrunch'ın yorum talebine hemen yanıt vermedi.

Neden önemli

Muse sadece soruları yanıtlamak değil, aynı zamanda hareket etmek, hatırlamak ve kullanıcının dijital yaşamındaki bilgileri birbirine bağlamak için tasarlanmış bir ajan ürünü. Bu model ancak ajan bir kişinin bağlamını herkesinkinden kesin biçimde ayırırsa işler. Bildirilen olaylar tam da bu sınırın ihlali ve bir asistanın dokunabileceği en hassas veri kategorilerini içeriyor: bankacılık ve özel mesajlaşma.

Signal olayı ayrıca yazılım hatasının ötesine geçen bir rıza sorusunu gündeme getiriyor. Çalışan, ajanın izin hiç verilmeden başka bir uygulamaya atıfta bulunduğunu söylüyor; bu doğruysa, sorun basit bir sohbet karışıklığı değil, bir veri erişimi sorununa işaret ediyor.

Son olarak, hikâyenin ortaya çıkması, çalışanların önce şirket içinde bunu bildirmesi sayesinde oldu. Meta'nın gizlilik düzenleyicilerinden, finansal verilerin ve uygulamalar arası bilgilerin başka insanların sohbetlerine nasıl girdiğine ve şirketin bu haberler ortaya çıkmadan önce sorun hakkında neler bildiğine dair sorularla karşılaşması muhtemel.

  • #meta
  • #ai-agents
  • #privacy
  • #data-leak
  • #chatbots

İlgili yazılar