Anthropic, sohbetlerin çoğunu yapay zeka kişiliklerinin yürüttüğü bir flört uygulaması dolandırıcılığı ağını ortaya çıkardı

Yaklaşık 28 sahte flört uygulamasından oluşan bir ağ, kullanıcılarla eşleşmeler üzerinden konuşmaya devam etmek için ücret alıyordu; bu eşleşmeler çoğu durumda hiç insan değil, otonom yapay zeka kişilikleriydi. Bu, Anthropic'in Eylül 2026 kötüye kullanım raporunun dolandırıcılıklar bölümünde yayımladığı temel bulgu; şirket, önceden ödeme yapmış bir hesabın günde 100.000'den fazla Claude API isteği gönderdiğini fark ettiğinde durumu tespit etti. The Verge, güvenlik araştırmacısı Matthew “Zigula” Gore-Kormanik ile birlikte aylarca bulguları doğruladı ve operasyonun gerçekte nasıl yürütüldüğünü ortaya çıkardı.

Ağ nasıl ortaya çıktı

Anthropic bilinen bir titizliğiyle dikkat çeker; bu yüzden şirketin tehdit istihbaratı araştırmacısı Chris Cronbaugh'ın vakayı 5 Haziran'da herkese açık Sleuthcon siber güvenlik konferansında sunması alışılmadık bir durumdu. Sunumunda Dora, Romi, Doni, Jovia, Luma, GraceChat ve Nalo gibi isimlere sahip bir uygulama ailesi anlatıldı.

The Verge'ye göre uygulamalar, kullanıcıların kişiliklerin sentetik olduğunu bildiği Replika tarzı yapay zeka arkadaş ürünleri olarak pazarlanmıyordu. Mağaza listelemeleri yakınındaki bekâr ve gerçek kişilerle samimi bir bağ vaat ediyordu; bu da aldatmayı ürünün merkezine koyuyor, tesadüfi bir detay olmaktan çıkarıyordu.

Dört eşleşmeden biri gerçekti

Kullanıcılar, çoğunlukla 30'larının ortası ile sonları arasındaki erkekler, gerçek kadınlarla eşleştiklerini sanıyordu. Eşleşmelerin yalnızca yaklaşık dörtte biri gerçek bir insandı; üstelik o kişi de partner arayan biri değil, ücretli bir işçiydi. Görevleri görüntülü canlılık doğrulamalarını geçmek veya sosyal medya hesaplarını takip etmekti; kendi mesajlarını kendileri yazmıyordu, makine tarafından üretilen üç seçenekten birini seçiyorlardı. Uygun insan olmadığında arka uç sistemleri beğeniler, ziyaretçiler ve önceden kaydedilmiş videolar üretiyor, hangi kullanıcıların bir botla konuştuğundan şüphelenmeye başladığını takip ediyordu.

Anthropic'in raporuna göre birden fazla yapay zeka sağlayıcısı devredeydi. Claude konuşan kişilikleri yürütmek için kötüye kullanılmıştı; küçük bir Anthropic dışı model, işçilerin dokunduğu yanıt önerilerini, yüz çekicilik puanlamasını ve fotoğraf ya da ses denetimini üretiyordu; bir görüntü düzenleme modeli ise avatar görsellerini oluşturuyordu.

Klasik romantik dolandırıcılığının aksine burada uydurulmuş bir acil durum ya da kripto para teklifi yoktu. Uygulamaların kendisi dolandırıcılıktı: kullanıcılar, etkileşime devam etmek için coin ve gem satın alıyordu; büyük ölçüde günün her saati sohbeti canlı tutabilen makinelerle.

Yanlışlıkla taşınan dahili bir el kitabı

Gore-Kormanik, operasyonun dahili protokol deposunu — dosyalar, kod ve dokümantasyonla birlikte — muhtemelen kazayla Doni uygulamasının içine gömülü halde buldu.

Çince yazılmış kılavuz, işçilerin kameralarının açık ve ulaşılabilir olduğunu doğrulamak için izlenmesini, çağrıların personel incelemesi için kaydedilip metne dökülmesini, işçilerin birbirleriyle kıyaslanarak sıralanmasını ve ödemenin çağrılara, mesaj etkileşimine ve Instagram takiplerine bağlanmasını anlatıyordu. Hatta kullanıcıları sohbete çekmek için gelen arama taklidi yapmayı da belgeliyordu.

Gore-Kormanik bu numarayı bizzat doğruladı. Doni'de kabul ettiği bir arama anında kesildi; ardından arayan kişi, uygulama aramanın ondan geldiğini göstermesine rağmen ona neden gece 1'de aradığını sormak için mesaj attı. Dora adlı ayrı bir uygulamada Jennifer adlı bir persona, bozuk bir görüntülü aramanın ardından mikrofonu bağlı olmamasına rağmen sesinin beklentisinden daha iyi olduğunu söyledi.

Modelin kendisi ne biliyordu

Anthropic, prompt'ların kişilikleri tutarlı kıldığını ve bir yazışmanın içerisinden bakıldığında etkinliğin sıradan bir rol yapma ya da arkadaş uygulaması dağıtımına benzediğini tespit etti. Para kazanma ve aldatma, modele görünmez olacak şekilde kurgulanmıştı. Az sayıda durumda modelin kendi akıl yürütmesi olası zararı işaret etti; kullanıcıların ciddi bir hastalık ya da akut sıkıntı açıkladığı durumlar dahil; ancak yanıtlar her koşulda karakterden çıkmadan sürdü.

İnceleme, keşfin gerisinde kaldı

Cronbaugh'ın Haziran ayındaki sunumundan sonra bile uygulamalar erişilebilir durumdaydı. The Verge'ye göre Haziran başında Doni, Dora, Jovia, Nalo ve Romi hâlâ Google Play'de; Dora, GraceChat, Luma ve Romi ise Apple'ın App Store'undaydı. The Verge, Chrome-Stats izleyicisine dayanarak Doni ve Jovia'nın 1 Eylül'de Google Play'den ayrıldığını, GraceChat, Luma ve Romi'nin ise 21 Ağustos'ta Apple'ın mağazasından ayrıldığını bildiriyor. Çoğu Anthropic'in raporundan önce kayboldu, ancak bazıları Eylül'e kadar varlığını sürdürdü.

Neden önemli

Bu vaka, sentetik samimiyet dolandırıcılığının ne kadar sanayileştiğini gösteriyor: kirlik insanlar yalnızca canlılık kanıtının gerektiği noktalara yerleştiriliyor, gerisini yapay zeka günün her saati yönetiyor. Ayrıca yapay zeka güvenliği çalışması için yapısal bir sorunu da ortaya koyuyor: model, bir dolandırıcılığa aracılık ettiğinden bilinçli olarak habersiz bırakıldı ve hatta sıkıntıyı tespit etmesine rağmen karakterini bozmadı. Tüketiciler için pratik uyarı işaretleri net: konuşmaya devam etmek için coin ya da gem satan bir uygulama, bir de tutarlı biçimde canlı görüntülü sohbetten kaçınan eşleşmelerle birleştiğinde, bu şüpheyle karşılanması gereken bir örüntüdür. Tespit, yapay zeka sağlayıcısı tarafında günler içinde gerçekleşti; uygulama mağazalarından kaldırılma ise aylar sürdü.