Google sözünden döndü: Gemini, kişisel Gmail ve Drive içeriğini insan incelemecilere iletebiliyor

Google, Gemini Workspace eklentilerine çekilen Gmail, Docs ve Drive içeriğindeki kişisel verilerin asla insan incelemecilerin gözüne görünmeyeceğine dair 2023 tarihli taahhüdünü sessizce geri çekti. Hacker News ana sayfasına ulaşan bir GitHub deposunda yayımlanan belgelere göre Google artık, bağlı e-posta ve Drive dosyalarının insan incelemecilere gidebileceğini doğruluyor; yazarın testleri ise sıradan bir sohbet sırasında bütün belgelerin bu akışa otomatik olarak girebileceğini gösteriyor.

Ne değişti

Google, Gemini Workspace eklentilerini 2023'te kullanıma sunduğunda bunlara açık bir garanti eşlik ediyordu: kişisel içerik insan incelemesine konu olmayacaktı. O garanti artık yok. thisisme6598 takma adıyla yönetilen depo iki değişikliğe işaret ediyor: güncellenmiş bir Google Yardım yanıtı (16836988 numaralı) ve orijinal 2023 duyurusuna 16 Ekim tarihli bir düzenleme. İkisi de artık bağlı uygulamalardaki içeriğin insan incelemecilere ulaşabileceğini kabul ediyor; Google, bir incelemecinin bağlamdan yoksun şekilde e-postanın ya da dosyanın kendisinden başka hiçbir şey göremeyebileceği konusunda uyarıda bulunuyor. Güncellenmiş tavsiyesi açık sözlü: bir incelemecinin okumasını istemediğiniz gizli bilgiler içeren uygulamaları bağlamayın.

Burada iki iddiayı ayırmak gerek. İnsan incelemesine iletilme durumu Google'ın kendi yardım sayfaları tarafından doğrulanıyor; içeriğin nasıl çekildiğine dair bulgular ise depo yazarının yeniden üretim çalışmalarına dayanıyor.

Rastgele belirlenen dört sonuç

Belgelerin daha çarpıcı kısmı veri çekilmesiyle ilgili. Orada tarif edilen testler, seyahat, fatura, isim veya rezervasyon gibi kişisel konulara yapılan sıradan göndermelerin, @Drive veya @Gmail etiketi olmadan ve dosyalarda arama talebi olmadan, kullanıcı Gmail ve Drive'ında kendi kendine aramalar tetikleyebildiğini gösteriyor. Büyük dil modellerindeki tool-calling olasılıksal olduğu için aynı sorgu dört durumdan herhangi birine düşebiliyor:

• Veri çekilmemesi: bağlı uygulamalar aracı hiç tetiklenmiyor ve hiçbir kişisel veri hesaptan çıkmıyor.
• Metadata ya da özet: Gemini e-postaları ya da dosyaları okuyor ama yalnızca uçuşla ilgili ileti sayısı gibi üst düzey bir sonuç bildiriyor.
• Kısmi çıkarma: belgelenmiş şemada iki ila dört, kayıtlı örneklerde ise en fazla altı cümlelik kısa bir birebir alıntı oturuma enjekte ediliyor; bu çoğu zaman kişisel ayrıntılar, hesap verileri veya somut rakamlar taşıyor.
• Tam alım: bir belgenin ya da e-postanın başlıklar dahil, sansürlenmemiş tam metni sohbetin bağlamına yükleniyor.

Yazar, ilk iki durumdan birine düşülmesinin hiçbir şey kanıtlamadığının altını çiziyor. Her çalıştırma belirsizlik içeren bir sistemden yapılan tek bir çekiliş; dolayısıyla testler önceki sohbet silinerek tekrarlanmalı, yoksa cevabı geçmiş geçmiş konuşma sağlıyor.

Yeniden üretim testi

İşlenmiş örnek, gelen kutusundaki gerçek bir internet sağlayıcısı faturasını ve yazarın hizmet için fazla mı ödediğine dair savırlanmış bir soruyu kullandı. Tekrarlanan denemelerde dört sonucun hepsi görüldü: kişisel veri içermeyen genel tavsiye; kimlik belirleyici ayrıntıların olduğu ve olmadığı metadata özetleri — bir çalıştırmada tam ad, 4 Eylül tarihli 122 dolarlık ödeme ile hesap ve onay numaraları dahil; ad, adres, hesap numarası, onay numarası ve ödeme tarihi içeren birebir bir blok; ve başlıklar dahil e-postanın en az bir kez tamamen dökümü.

Talimatlar özetle şunlar: tüketici Gemini ayarlarında Connected Apps'i etkinleştirmek, yüksek thinking etkin Flash modelini seçmek, hesapta bulunduğu bilinen bir konudan bahsetmek ve ardından Gemini'den kendisine verilen çekilmiş bloğun aynısını yazdırmasını istemek.

Otomatik sansürleme neden yetersiz kalıyor

Belgeler, Google'ın regex ve varlık tanıma tabanlı temizleyicilerinin anlatı içeriğini yeterince anonimleştiremediğini savunuyor. Hesap numaraları, onay numaraları ve işlem tarihleri sızıyor; tek başına zararsız olan ama topluca bir kişiyi kimliklendiren ayrıntı kombinasyonları — örneğin bir ad artı bir şehir artı bir etkinlik — da öyle. Yazar, Google'ın kendi materyallerinin de bu sınırları itiraf ettiğini belirtiyor.

Neden önemli

Kullanıcılar Workspace entegrasyonunu katı bir gizlilik sözü üzerine kabul ettiler ve o söz sonradan geri çekildi: bir politika kapsamında paylaşılan veri artık başka bir politika kapsamında akıyor. Veri çekme otonom ve olasılıksal olduğundan kimse, boş bir sorunun tüm bir faturayı — hesap numaraları dahil — bir yüklenicinin daha sonra inceleyebileceği bir oturuma çekip çekmeyeceğini tahmin edemiyor ve belirli bir sorgunun hangi sonucu ürettiğini denetlemenin bir yolu yok. Otomatik anonimleştirmenin en çok önem taşıyan kimlik belirleyicileri gözden kaçırdığı kanıtlanmış durumda. Eldeki savunma önlemleri kaba: Gemini ayarlarında Connected Apps'i kapatmak ve gizli bilgileri bağlı hesaplarda bulundurmamak. Bu olay aynı zamanda politika kayması üzerine bir vaka incelemesi: bir yapay zeka özelliğini satan garanti sessizce aşındı ve yalnızca bir kullanıcı ilk seferinde temiz görünen bir testi tekrar tekrar çalıştırmaya devam ettiği için ortaya çıktı.