EFF'e göre DraftKings, kaybeden kumarbazları hedeflemek için yapay zekayı bahis kayıtları üzerinde eğitiyor

Haberde ne deniyor

Electronic Frontier Foundation'a (EFF) göre, çevrimiçi spor bahisleri operatörü DraftKings, en çok kaybetme olasılığı olan ve kumar promosyonlarına yanıt verme eğiliminde olan müşterileri bulmak için yapay zeka kullanıyor. Dijital haklar grubu, EFF'nin Deeplinks blogunda yayımladığı yazıda, DraftKings'in kendi müşterilerinin bahis kayıtları üzerinde bir makine öğrenmesi modeli eğittiğini, kaybetme eğiliminde olan kumarbazları tespit etmek için kullandığını ve ardından bu kullanıcılara platforma geri çekip bahis oynamaya devam etmelerini sağlayacak şekilde tasarlanmış hedefli reklamlar ve promosyonlar gönderdiğini New York Times haberine dayanarak aktarıyor.

EFF, altında yatan ticari mantığı şöyle ortaya koyuyor: Kaybeden kumarbazlar, DraftKings'in gelirini fiilen üreten müşterilerdir; dolayısıyla şirketin onları aktif tutmak için yapısal bir teşviki var. Gruba göre bunun pratik sonucu, sorunlu kumarbaz olarak sınıflandırılacak insanların — mali durumlarına, ilişkilerine ve esenliklerine zarar vermesine rağmen kumar oynamaya devam edenler — model tarafından işaretlenme ve kendilerine özel tekliflerle yeniden platforma çekilme olasılığı en yüksek kişiler arasında yer alması. Sistem, savunmasız kullanıcılar için riski azaltmak yerine bu savunmasızlıktan kâr elde ediyor.

Yapay zeka davranışsal reklamcılığı nasıl ölçeklendiriyor

EFF'ye göre DraftKings, bireysel kullanıcılar hakkında toplanan verileri kullanarak reklamları kişiselleştirme pratiği olan çevrimiçi davranışsal reklamcılığın daha geniş bir sorununun bir örneği. Gruba göre bu süreç hattına yapay zekanın eklenmesi zararı birçok yönden büyütüyor: Modelleri eğitmek ve geliştirmek için daha da fazla veri toplamayı teşvik ediyor; makine öğrenmesinin kara kutu doğası, sistemleri kuranların çoğu zaman hangi veri noktalarının yararlı olacağını öngörememesine yol açıyor ve bu da onları her şeyi toplamaya itiyor; ayrıca yapay zeka, şirketlere daha önce mümkün olandan çok daha hızlı biçimde devasa veri kümelerini işleme imkanı veriyor.

Aşağı doğru etkiler tek bir bahis uygulamasının çok ötesine uzanıyor. EFF'nin belirttiğine göre, reklam hedefleme için toplanan veriler daha geniş gözetim ekonomisini besliyor ve bu veriler sigorta şirketlerine, bankalara ve Gümrük ve Sınır Koruma dahil olmak üzere kolluk kuvvetlerine satılıyor. Grup ayrıca, Göçmenlik ve Gümrük Uygulaması'nın bu yılın başlarında yayımladığı ve ticari büyük veri ile reklam teknolojisi sağlayıcılarının soruşturmalara nasıl doğrudan destek olabileceğini soran bir Bilgi Talebi'ne de dikkat çekiyor.

Birinci taraf verisi boşluğu

DraftKings vakasındaki bir ayrıntı politika açısından özel önem taşıyor. EFF'ye göre şirket, modelini beslemek için üçüncü taraflardan ek veri satın almak yerine, yalnızca kendi kullanıcılarından doğrudan toplanan bilgi olan birinci taraf verisine dayanıyor gibi görünüyor. EFF bunu, yalnızca üçüncü taraf veri paylaşımını ve satışını sınırlamaya odaklanan bir düzenlemenin bu tür yırtıcı hedeflemeyi önleyemeyeceğini savunmak için kullanıyor. Vardığı sonuç, çevrimiçi davranışsal reklamcılığın tamamen yasaklanması gerektiği: Şirketler kişiselleştirilmiş reklam gönderemezse, bu reklamları besleyen davranışsal verileri toplama teşviklerinin büyük kısmını kaybederler.

EFF ayrıca okuyucuları, mobil uygulamalar ve web siteleri üzerinden ne kadar veri açığa çıktığını sınırlamak isteyenler için kendi kaynaklarına, bunların arasında Gözetimden Kendini Koruma (Surveillance Self Defense) projesine yönlendiriyor.

Neden önemli

Bu hikaye, yapay zekanın çıkar çatışmasının olağandışı derecede açık olduğu bir alana uygulanmasını gösteriyor: Bir bahis platformunun müşterilerinin para kaybetmesinde doğrudan finansel bir çıkarı var ve muhtemel kaybedenleri tespit etmek için eğitilmiş bir model bu çıkarı otomatik bir yeniden katılım makinesine dönüştürüyor. Ayrıca canlı bir düzenleme boşluğuna dikkat çekiyor. Politika yapıcılar üçüncü taraf takipçilere ve veri aracılarına odaklanırken, bir şirketin kendi ürünü içinde toplanan birinci taraf verisi büyük ölçüde düzenlenmemiş durumda — ve makine öğrenmesi bu veriyi şimdiye kadar olduğundan çok daha işlenebilir hale getiriyor. DraftKings örneği kumarla ilgili, ancak davranışsal profil oluşturma ve hedefli yeniden katılım kalıbının aynı deseni modern uygulama ekonomisinin büyük bölümünde yaygın ve EFF'nin bunu dar bir düzeltme değil geniş bir yasak için kanıt olarak görmesinin nedeni de bu.