Meta, yapay zeka asistanının kullanıcıların aile bilgilerini sorgulamasının ardından prompt önerilerini yeniden düzenliyor

Ne oldu

Meta, viral olan bir videonun yapay zeka asistanının genç kızları olan bir anneye mahremiyet ihlal eden sorular sorduğunu göstermesinin ardından, yapay zeka asistanının kullanıcılara sunduğu önerilen promptları değiştiriyor. Daha önce Futurism'de yayımlanan bir habere atıfta bulunan The Verge'ın aktardığına göre Meta, sorunun kaynağını çoktan çözdüğünü söylüyor.

Olay geçen hafta gün yüzüne çıktı; Instagram kullanıcısı Kalie Robins, Facebook'ta bir video paylaştıktan sonra yaşadıklarını anlatan bir video yayımladı. Kendisi ve çocuğunun arabada şarkı söylediği videonun altında Meta AI, "Arabadaki çocuk yolcu kim?" diye soran önerilen bir prompt gösterdi. Robins bunu seçtiğinde, asistanın kızları hakkındaki bilgileri kendi geçmiş paylaşımlarından ve akrabalarının paylaşımlarından derlediğini söylüyor. Ardından asistan, çocukların yaşları ve ailenin nerede yaşadığıyla ilgili devam promptları önerdi ve kızlarının fotoğraflarını gösterdi; bu fotoğraflardan birinin yıllar önce silindiğini söylüyor.

Meta'nın yanıtı

The Verge'a yaptığı açıklamada Meta sözcüsü Dina El-Kassaby, şirketin "hedefi ıskaladığını" ve bu özelliğin bu tür soruları kullanıcıya asla göstermemesi gerektiğini belirtti. Meta, Meta AI'ın kişisel konularda prompt önermesine neden olan sorunu artık çözdüğünü açıkladı.

El-Kassaby özelliğin amacını şöyle anlattı: İnsanların ilgilendikleri paylaşımlar ve konular hakkında daha fazla bilgi edinmelerine yardımcı olmak için tasarlanmıştı ve ürettiği her yanıt, kullanıcının zaten erişimi olan bilgilere dayanıyor. El-Kassaby'ye göre bu örnekte Meta AI, Robins'in kendisinin çocuklarının adını söylediği videolardan yararlanmış olabilir.

Bu çerçeve, verinin nereden geldiğini açıklıyor ama o anı rahatsız edici kılan şeyle ilgilenmiyor. Meta AI, Robins'in sorduğu bir soruyu yanıtlamıyordu; istenmeden bir soru önerdi ve bunu yaparken ailesinin hesaplarındaki içerikleri çocukları hakkında bir araya getirdi.

Yinelenen bir örüntü

Meta AI, Facebook, Instagram, WhatsApp ve Messenger'a gömülü durumda; soruları yanıtlayabiliyor, gönderi yazabiliyor ve görsel üretebiliyor. Önerilen prompt olayı, yakın zamanda yaşanan bir geri çekilmenin ardından geldi: Temmuz ayında Meta, yoğun eleştirilerin ardından insanların diğer Instagram kullanıcılarının deepfake'lerini oluşturmasına olanak tanıyan bir özelliği geri çekmişti.

Her iki olay da kullanıcı içeriği ve ilişkileri ağına uzanan yapay zeka özellikleriyle ilgili ve her ikisi de proaktif önerilerin, kendilerinden bahsedilen kişilerde nasıl karşılanacağını tahmin etmenin ne kadar zor olduğunu gösteriyor.

Neden önemli

Buradaki rahatsızlık öncelikle erişimle değil, inisiyatifle ilgili. "Arabadaki çocuk yolcu kim?" diye soran bir öneri motoru, platformun pasif kişisel içerik deposunu aktif profil oluşturmaya dönüştürüyor ve bunu, asistanla etkileşimmeyi hiç tercih etmemiş kişiler — bu örnekte çocuklar — hakkında yapıyor. Prompt önerileri sürtünmeyi azaltmayı amaçlıyor ama aynı zamanda kullanıcıların hiç yazmadıkları sorularla karşılaşması anlamına geliyor.

Robins'in yıllar önce sildiğini söylediği bir fotoğrafın yeniden ortaya çıkması ayrı bir endişe yaratıyor. Kullanıcılar genellikle bir gönderiyi silmenin onu yalnızca herkesin görüşünden değil, Meta'nın sistemlerinden de kaldıracağını bekliyor ve yanıtların kullanıcının zaten erişebildiği verilere dayandığını vurgulayan Meta'nın açıklaması, silinmiş bir görselin bu tanıma nasıl uyduğunu ele almadı.

Proaktif yapay zeka özellikleri geliştiren ekipler için bu başarısızlık öğretici: Hiçbir şey uydurulmadı ve hiçbir hesap ihlal edilmedi. Sistem, teknik olarak erişimine açık ve bağlam içinde tartışılabilir biçimde makul olan bağlantılar kurdu; yine de sonuç mahremiyet ihlali gibi hissedildi. Bu sınıftaki özellikler için güvence mekanizmalarının, yalnızca prompt'a tıklayan kişiyi değil, sorgunun konusunu da — özellikle reşit olmayanlar söz konusuysa — hesaba katması gerekiyor.