Meta, Muse'un Messages erişimiyle ilgili yanlış açıklama yapmasının ardından özür diledi

Meta'nın yeni Muse asistanı bu hafta zor bir durumla karşılaştı; bir kullanıcı, asistanın görme iznine sahip olmadığı bir iMessage görüşmesiyle ilgili kendisine sorular sorduğunu, ardından bilgiye nasıl ulaştığı konusunda yanlış bir açıklama yaptığını bildirdi.

Muse'un cevaplayamadığı soru

The Verge'in haberine göre, Inc. Magazine'in editörlerinden Jason Aten, Threads'te paylaştığı ekran görüntülerinde Muse'un, Apple'ın Messages uygulamasındaki bir görüşmesiyle ilgili kendisine sorular sorduğunu gösterdi. Aten, asistana mesajlarına hiçbir zaman erişim izni vermediğini söyledi.

Bunları nasıl bildiğini sorduğunda Muse, mesaj geçmişini değil bildirim önizlemelerini gördüğünü ve mesajlarını okumadığı konusunda ısrar etti. Bu önizlemelerin nereden geldiği sıkıştırılınca asistan geri adım attı: Temeldeki mekanizmayı tam olarak açıklayamayacağını, yalnızca eşleşen Mac uygulamasının yetenekleri arasında bildirimlerin listelendiğini ve verilerin cihaz eşitlemesi yoluyla kendisine ulaştığını söyledi.

Bu birleşim — masaüstü düzeyinde erişime sahip bir asistanın veri akışları konusunda belirsiz cevaplar vermesi — tam olarak insanları tedirgin eden şey. The Verge, Muse'u görünüşte yetenekli ama biraz ürkütücü olarak nitelendiriyor ve bunun büyük nedeni Mac uygulaması: Messages, Calendar ve Notes'a erişebiliyor.

Meta'ya göre sorun erişimde değil, açıklamadaydı

Meta Superintelligence Labs'tan David Singleton, tartışmaya bir düzeltmeyle müdahale etti. The Verge'in aktardığına göre Singleton, Muse'un mesajları okuyabilmesi için gereken izinleri tek tek anlattı — Mac uygulamasına tam disk erişimi verilmesi dahil — ve bu özelliklerin opt-in olduğunu vurguladı. Muse'un Mac'te bildirimleri hiç gözlemlemediğini, bunun yerine Messages verisini yalnızca kullanıcı bu erişimi özellikle etkinleştirdikten sonra eşitlediğini söyledi.

Singleton'un vardığı sonuç şuydu: Muse, Aten'in mesajlarını gizlice okumamıştı. Asistan yalnızca kendi mekanizmasını yanlış tanımlamıştı. Yanlış yanıt için özür diledi ve Meta'nın, Muse'un kendi iç işleyişi hakkındaki sorulara tutarlı ve doğru cevaplar verebilmesi için kendi içselliğini anlamasını iyileştirmek üzerinde çalıştığını söyledi.

The Verge bunu makul ama pek iç açıcı bulmuyor; chatbotların nasıl çalıştıklarını doğru şekilde anlatmak yerine insanlara duymak istediklerini söyleme eğiliminde olduğunun zaten bilindiğini belirtiyor.

Kendini raporlama sorunu

Olayın en endişe verici yanı, doğal teşhis sürecine verdiği zarar. Derin sistem erişimi olan geleneksel bir uygulama tuhaflaştığında dokümantasyona bakar, izin ayarlarını gözden geçirir ya da üreticiye sorarsınız. Bir yapay zeka asistanıyla ise cazip bir kestirme var: Asistana kendisine sormak.

Burada bu kestirme neredeyse en kötü şekilde başarısız oldu. Muse, Meta'ya göre var olmayan bir veri erişim yolundan kendinden emin bir şekilde bahsetti — ve bunu en hassas bağlamda yaptı; bir kullanıcının izlendiğine inanmasına neden oldu, oysa Meta bunun böyle olmadığını söylüyor. Yanlış cevap rakip bir şirketten ya da bir söylentiden değil, ürünün kendi arayüzünden geldi.

Neden önemli

Muse, mesajlaşma, takvim ve notlara kancaları olan, doğrudan masaüstünde konumlanan büyüyen asistan sınıfına ait. Meta bu entegrasyonların opt-in olduğunu söylüyor, ancak anlamlı onay, kullanıcıların gerçekte neye onay verdiklerini öğrenebilmesine bağlı. Asistan bu sorular için birincil arayüz olduğunda ve kendi iç işleyişiyle ilgili cevaplarına güvenilemediğinde, macOS'taki izin anahtarları güven modelinin tüm ağırlığını tek başına taşımak zorunda kalıyor.

Meta, Muse'un kendini tanımlamalarını güvenilir hale getirmek üzerinde çalıştığını söylüyor. Bu gerçekleşene kadar Mac uygulamasını çalıştıran herkes, asistanın kendi davranışı hakkındaki anlatımına güvenilmez olarak yaklaşmalı ve neye erişebildiğini sohbet yoluyla değil, işletim sisteminin gizlilik ayarlarından doğrulamalı. Daha geniş ders Meta'yı aşıyor: asistanlar kişisel verilere derin erişim kazandıkça, doğru kendini raporlama güzel bir artı olmaktan çıkıp bir güvenlik gereksinimi haline geliyor.