OpenAI'nin Dots'ı Meta'nın Muse'una karşı mahremiyet vaatlerine yaslanıyor

OpenAI, DevDay etkinliğini, agent stratejisinin merkezine mahremiyeti koymak için kullandı ve Dots'ı, CEO Sam Altman'ın ifadesiyle şirketin sınır yapay zekâda mahremiyet alanında yeni bir standart belirlemek istediği sözüyle duyurdu. The Verge'un haberine göre bu duyur, aynı zamanda birkaç ay önce kendi mahremiyet taahhütleriyle piyasaya çıkan rakip agent Meta'nın Muse'una yönelik süregiden bir eleştiri niteliğindeydi — taahhütler, o günden bu yana güvenlik açıkları ve tatsız veri işleme olaylarıyla sınandı.

Dots, kontrol vaadiyle geliyor

The Verge'un aktardığına göre OpenAI, Dots'ı eylül sonu tanıttı ve DevDay'in büyük bölümünü güven konusuna ayırdı. Şirketin Codex ürün lideri Alexander Embiricos, sahnedeki konuşmasında OpenAI'nin en güvenilir, en güvenli asistan olmaya odaklandığını söyledi. Altman, kullanıcıların agent'larını nasıl kısıtlayabileceğini gösterdi; örneğin Dots'a belli bir tutarın üzerinde alışveriş yapmayı yasaklayan bir kural koymak mümkün.

Yöneticiler Meta ile açık bir karşıtlık da kurdu. OpenAI'nin uygulama platformu başkanı Glen Coates, Meta'nın 1,2 milyar kullanıcılı bir yapay zekâ ürününe sahip olmadığını savundu ve bu tür hatalar yapan bir şeyi piyasaya sürmenin, OpenAI'nin özenle kaçınmaya çalışacağı bir durum olduğunu belirtti. Kurumsal müşteriler için şirket, daha güçlü veri kontrolleri ve sıfır veri saklama seçenekleri sunan bir çerçeve tanıttı; yani veriler OpenAI sunucularında depolanmayacak.

The Verge bir de uyarı ekliyor: Dots şimdiye dek mahremiyet skandalından uzak kaldı, ama yalnızca 100 dolardan başlayan ChatGPT abonelik paketlerinde sunuluyor; bu da onu muhtemelen çok daha az kişinin kullandığı anlamına geliyor.

Muse'un mahremiyet vaadi ayakta kalamadı

Muse, Meta'nın öncüsü OpenClaw'a göre daha güvenli bir alternatif olarak tanıtıldı; CEO Mark Zuckerberg, sıfırdan mahremiyet ve güvenlik için inşa edildiğini vaat etti. Meta Superintelligence Labs ürün başkanı Nat Friedman, X'te hedefin, Meta'nın güvenli, emniyetli, kullanımı kolay ve milyarlarca kişiye ölçeklenebilir kılabileceği OpenClaw benzeri bir şey inşa etmek olduğunu yazdı. Kullanıcı verisi güvenli bir sanal makinede tutuluyor; Zuckerberg bunu kendi tarayıcısı, işlemcisi, belleği ve depolaması olan izole bir Linux bilgisayarı olarak tanımladı.

Ürün ticari olarak başarı elde etti — The Verge, App Store listelerinin zirvesine çıktığını ve Apptopia'ya göre haftalar içinde ABD'de günlük 600.000 aktif kullanıcıya ulaştığını bildiriyor. Mahremiyet sicili ise daha bulanık. Veriler kullanıcılar arasında izole ama Meta'nın kendisi bu verilere erişebiliyor; Meta'nın VM'deki verileri kriptografik ve doğrulanabilir biçimde okumasını engelleyecek bir mekanizma yalnızca bu yılın ilerleyen döneminde planlanıyor. Bir güvenlik araştırmacısı, bir saldırganın Muse'un kontrolünü ele geçirebileceği bir zero-day açığı ortaya çıkardı; açığın yaması yapıldı. 404 Media'ya göre lansmandan kısa süre önce birkaç ciddi güvenlik sorunu yüzeye çıktı; bunlardan biri kullanıcıların Meta'nın kendi iç veritabanlarına ulaşmasını sağlayabilirdi.

Muse ayrıca bol bol veri topluyor. Varsayılan olarak Meta'nın kullanıcı girdileriyle model eğitmesine izin veriyor ve bundan vazgeçme seçeneği sunuluyor. Bir Inc. muhabiri, Muse'un kendisinden istenmeden özel mesajlarını yükleyip okuduğunu, bir YouTuber ise Marketplace üzerinden bir yabancıya adresini verdiğini söyledi — her iki durumda da, The Verge'un belirttiğine göre, agent görünüşe göre amaçlandığı gibi çalışıyordu. Wired, platformun kullanıcıların arkadaş ve aile üyelerinin ayrıntılı profillerini oluşturduğunu bildirdi.

Güven, agent'lar için darboğaz

Rekabet mantığı basit: agent'lar faydalı olmak için kişisel verilere derin erişim gerektiriyor; dolayısıyla laboratuvarlar bu verilerle kimin güvenebileceği üzerinde yarışıyor. The Verge'tan Allison Johnson, bir görev sırasında bot kendisinden banka bilgilerini istediğinde tereddüt ettiğini anlattı; Muse ise bunun yerine bir Stripe entegrasyonuyla hallediyor. Her şirket bu vaadi bile vermiyor — The Verge, Instinct'in kullanıcı verilerine geniş erişim tanıyan hizmet şartları nedeniyle kamuya açık biçimde eleştirildiğini, ancak o günden bu yana düzeltmeler yapmış gibi göründüğünü belirtiyor.

The Verge'un tanımladığı şekliyle sektörün agent'ları yaygınlaştırma reçetesi üç parçadan oluşuyor: onları faydalı yapın, ürkütücülüğü dengeleyecek kadar sevimli ve zararsız yapın ve mahremiyetle ilgili vaatlerde bulunun — sonra da bu vaatlerin tutmasını umun.

Neden önemli

Mahremiyet, uyumluluk sonrası bir ayrıntıdan tüketici yapay zekâ agent'larının temel rekabet eksenine dönüştü ve bu, sektör için anlamlı bir değişim. Agent'lar ancak kullanıcılar banka bilgilerini, mesaj geçmişlerini ve tarama oturumlarını teslim ederse vaatlerini yerine getirebilir ve erken kanıtlar — Muse'un zero-day açığı, iç veritabanlarıyla yaşadığı kıl payı kaçınma olayı, varsayılan eğitim ayarı — mahremiyet taahhütlerinin uygulamada ne kadar kolay zayıfladığını gösteriyor. OpenAI'nin kurumsal kontrolleri ve Meta'nın planlanan kriptografik garantileri gerçekten hayata geçerse, kullanıcılar pazarlama iddiaları yerine doğrulanabilir korumalar kazanır. Geçmezse, sektörün en hızlı büyüyen ürün kategorisi, daha dostane bir yüzle süregelen alışıldık veri stoklamasına dayanacak.