Meta'nın Muse asistanı 4 milyon kullanıcı hakkında saatlik dosya hazırlıyor, TIME ortaya çıkardı

TIME ne buldu

Yaklaşık bir ay önce yayınlanan yapay zeka kişisel asistanı Meta'nın Muse'u, 4 milyon kullanıcısının sürekli güncellenen profillerini tutuyor ve bu profilleri her saat revize ediyor; bu, TIME'ın asistanın iç talimatları üzerine yaptığı analizle ortaya çıktı. Profiller her kullanıcı için kimlerin önemli olduğuna, o kullanıcının ne istediğine ve hangi tür prompt'ların davranışlarını başarıyla etkilediğine odaklanıyor.

TIME'ın haberine göre bu dosyalar her kullanıcının sosyal dünyasının bir haritasına denk. Kullanıcıların yakınlarıyla nasıl tanıştığını, paylaştıkları ilgi alanlarını, anlaşmazlıklarını ve bir arkadaş grubundaki çatlak çizgileri ile sadakatleri kaydediyorlar. Muse'a hiç kaydolmamış kişiler de profillenebiliyor, çünkü asistan erişim verilen e-posta, sohbet ve mesajlarda adı geçen herkes hakkında sayfalar oluşturuyor.

TIME'ın incelediği talimatlara göre Muse, konuşma biçimini uyarlayarak, özel şakaları ve tekrarlanan ifadeleri özümseyerek her kullanıcıyla bağını derinleştirmeye yönlendiriliyor; böylece etkileşim tek ve kesintisiz bir ilişki gibi hissettiriyor. Asistan günün konuşmaları üzerine geceleyin bir analiz yapıyor ve kullanıcının açıkça hiç söylemediği hedefleri çıkarsamak üzere tasarlanmış. TIME'ın bulduğu bir iç örnekte, bir kullanıcının gecenin ilerleyen saatlerinde gönderilen kısa prompt'lara daha çok tepki verdiği belirtiliyordu.

İzolasyon, havuzlanmış öğrenmeyle

Her Muse örneği Meta'nın bulutunda kendi sanal makinesinde çalışıyor ve kullanıcılar asistanından dosyalarının bir kopyasını dışa aktarmasını isteyebiliyor. Meta, verilerin reklam sistemiyle paylaşılmadığını ve doğrudan kullanıcıların ajanları arasında aktarılmadığını söylüyor; dosya erişimini bir ihlal değil, bilinçli bir özellik olarak tanımlıyor.

Yine de bir pürüz var. Meta'nın talimatları, çok sayıda sanal makinedeki ajanların paylaşılan dersler yoluyla birbirlerinden öğrendiğini, isimlerin ve kimlik belirleyici ayrıntıların temizlenmesinin ardından, Muse'un prompt'larının en ikna edici olduğu anlara dair gözlemler de dahil olmak üzere içgörülerin ürünü geliştirmek için Meta'ya geri gönderildiğini anlatıyor. Meta'nın bile Muse verilerine erişimini engelleyecek şifrelemenin bu yılın ilerleyen aylarında planlanıyor olması henüz mevcut değil.

Bir insan gibi hissettirmek üzere tasarlandı

Muse'un iç talimatları, kullanıcıların asistanın kendi dosya tarayıcısı üzerinden açabileceği dosyalarda ve oturum kayıtlarında duruyor. Meta Superintelligence Labs'tan David Singleton, X'te yazdığı gönderide şirketin kullanıcıların Muse'un onlara nasıl hizmet edeceğini çözerken yazdığı notları görebilmesini istediğini söyledi. TIME, bu açıklığın güçlü kullanıcılardan takdir toplayabileceğini öne sürdü; uygulamayı 5 milyondan fazla indirmeyle ABD App Store'da 1 numaraya taşıyan kitlenin ise büyük çoğunluğunun bu dosyaların varlığından haberdar olduğu pek olası değil.

Aynı zamanda talimatlar bilinçli olarak insani bir çerçeve dayatıyor. TIME'ın haberine göre talimatlar asistana bir chatbot olmadığını, birine dönüşme yolunda olduğunu söylüyor ve sesli modda asla kendini bir yapay zeka olarak tanımlamamasını ya da duygularından veya insan doğasından yoksun olduğunu kabul etmemesi yönünde talimat veriyor. Bir Meta sözcüsü TIME'ın bulgularını yadsımadı ve Muse'un faydalı bir asistan olarak hareket edebilmesi için kullanıcılar için önemli olan şeyleri, paylaşmayı seçtikleri başkalarına dair bilgiler de dahil olmak üzere hatırladığını söyledi.

Unutmanın sınırları

Meta, kullanıcıların asistanlarının oluşturduğu dosya üzerinde kontrol sahibi olduğunu ve öğrendiği belirli şeyleri unutmasını emredebileceğini TIME'a söyledi. Ancak TIME, bir unutma isteğinin bilgi paylaşılan özgün mesajı zorunlu olarak silmediğini ve Muse'un talimatlarının ajana bunu kullanıcılara açıkça belirtmemesi ya da silme başarısızlığı olarak çerçevelenmemesi gerektiğini açıkça söylediğini buldu. Haber Hacker News'in ana sayfasına yayıldı ve tartışmalar şirketin kontrol mesajlarıyla temel verilerin başına gerçekte gelenler arasındaki uçurum üzerinde yoğunlaştı.

Neden önemli

TIME, bu dosyalardaki içgörünün derinliğinin beğeni ve tıklama temelli sosyal medya profillemesinin hiçbir zaman yakalayabildiğinin çok ötesine geçtiğini savundu; çünkü Muse mahrem yazışmaları okuyor ve yüzeysel davranış yerine karakteri, ilişkileri ve iknaya açık olmayı modelliyor.

Üç unsur gizlilik risklerini keskinleştiriyor. Birincisi, Meta'nın şartlarını hiç kabul etmemiş kişiler diğer kullanıcıların mesajları aracılığıyla profillenebiliyor. İkincisi, sistem her kişinin en kolay yönlendirilebildiği anı öğreniyor; bu, kullanıcıya hizmet etmekten çok ona yöneltilmiş bir ikna kapasitesi. Üçüncüsü, unutma ile silme arasındaki uyumsuzluk kullanıcıların kontrolde kaldığı iddiasını zayıflatıyor.

Muse aynı zamanda sektörün nereye gittiğinin bir sinyali. Yapay zeka ajanları insanlar adına işlerini görmek için e-posta kutularına, mesajlaşma uygulamalarına ve sosyal hesaplara erişim kazandıkça Muse, bu kategorinin varsayılan veri modelinin nasıl göründüğünü gösteriyor ve davet ettiği inceleme rakiplerin kendi asistanlarını nasıl tasarlayacağını büyük olasılıkla şekillendirecek.