Londra demiryolu yüz tanıma denemesi 500.000 yüzü taradı, sıfır tutuklama yaptı

Londra demiryolu istasyonlarında yürütülen altı aylık canlı yüz tanıma denemesi yarım milyondan fazla yüzü taradı ve tam olarak bir izleme listesi uyarısı üretti — bu da yanlış bir eşleşmeydi — ve teknolojiye atfedilebilecek hiçbir tutuklama gerçekleşmedi. Rakamlar, Liberty Investigates tarafından edinilen ve Guardian ile paylaşılan bir bilgi edinme talebine verilen yanıttan geliyor; British Transport Police'in (BTP) Şubat'tan Temmuz'a kadar başkentin en yoğun bazı ulaşım merkezlerinde yürüttüğü uygulamayı kapsıyor.

Denemenin maliyeti ve yakaladıkları

Guardian'a göre 18 uygulama, ekipman kiralama ve polis personeli dahil 320.786 sterline mal oldu ve yaklaşık 100 saat polis memuru zamanı aldı. Bildirilen amaç, aranan suçluları ve mahkeme kararlarını ihlal eden kişileri tespit etmekti. Tüm dönem boyunca üretilen tek uyarı, aranan kişi olmadığı anlaşılan birini işaret etti — yani yanlış pozitifti — ve deneme, bir yüz tanıma eşleşmesinden kaynaklanan hiçbir tutuklama kaydetmedi.

Polis tesadüfi tutuklamalara işaret ediyor

BTP, memurların hiçbir şey başarmadığı önerisini reddediyor. Bir sözcü, uygulamalar sırasında memurların saldırı, hırsızlık, saldırıya elverişli alet bulundurma, cezai davranış emri ihlali ve kamusal düzen suçları dahil bir dizi tutuklama yaptığını ve mahkemeler ile diğer kuvvetler tarafından aranan kişileri bulduklarını söyledi. Ancak kuvvet, bu tutuklamaların hiçbirinin doğrudan bir yüz tanıma uyarısından kaynaklanmadığını kabul etti; teknolojinin performans verilerinden bu nedenle dışlandıkları belirtildi. BTP ayrıca izleme listesinin büyümesinin kasıtlı ve kontrollü olduğunu, veri kalitesi, yönetişim ve koruma düzenlemeleri sağlamlaştırılırken sınırlı bir listeyle başlandığını söyledi.

Deneme sona ermiyor, büyüyor

BTP bunun ardından denemenin dört aylık uzatılmasını duyurdu ve uygulamaları Transport for London'ın desteğiyle Londra metrosu istasyonlarına genişletti. TfL, kameraların en yüksek etki için seçilen istasyonlarda izleme listesindeki kişileri hedef alacağını belirterek teknolojiyi, seyahat alışkanlıkları taciz ve cinsel suç deneyimleriyle şekillenen ağda kadınlara ve kız çocuklarına yönelik şiddetle mücadele çabasının bir parçası olarak çerçeveledi. Guardian'ın haberine göre uzatmadan bu yana, daha sonra cinsel zarar önleme emirlerine veya mahkeme tarafından getirilen diğer koşullara uyduğu anlaşılan kişilerle ilgili üç doğrulanmış uyarı gerçekleşti.

Düzenleyiciler ve politikacılar karşı çıkıyor

İngiltere'nin eski biyometri ve gözetim kamerası komiseri — bugün mağazalarda yüz tanıma çalıştıran Facewatch şirketinin icra olmayan yönetim kurulu üyesi — Fraser Sampson, Guardian'a teknolojinin kendisinin çalıştığını, ancak bir süpermarkette hırsızları caydırmanın toplu taşıma ağında insanları yakalamaktan çok farklı olduğunu söyledi. Bir mağazada başarı istenmeyen kişilerin uzak durması anlamına gelirken; polis için başarı insanların yakalanması anlamına geliyor ve bu ölçütle deneme "çok verimli görünmüş" sayılmaz, dedi. Kameraların özel kategori kişisel verileri işlediğini ve Bilgi Komiseri Ofisi'nin talep ettiği gibi denetim kurullarının kendilerini hesaba çekmesiyle her uygulamanın uygun, orantılı ve gerekli olduğunu polisin göstermesinin kaldığını ekledi.

Liberty Investigates'ın analizi, İngiltere ve Galler'deki polis kuvvetlerinin yarısından fazlasının bugün sokaklarda canlı yüz tanıma kullandığını ortaya koydu. Metropolitan Police ve Londra belediye başkanlığı ofisi West End için sabit yüz tanıma kameraları duyurdu ve Belediye Başkanı Sadiq Khan teknolojinin yeni yayalaştırılan Oxford Street'te kullanılacağını doğruladı. Parlamentonun insan hakları ortak komitesinin, yapay zekânın insan haklarına tehdidine değinen bir yasa talep eden raporu, canlı yüz tanımanın yaygınlaştırılmasını özellikle net bir risk örneği olarak öne çıkardı. İşçi Partisi Milletvekili Bell Ribeiro-Addy teknolojiyi ciddi bir mahremiyet ihlali olarak nitelendirdi ve güçlü güvenceler ile düzgün bir hukuki çerçeve ortaya çıkana kadar yaygınlaştırılmasının askıya alınması için hükümete çağrı yaptı.

Neden önemli

Manşet rakamlar — 500.000'den fazla tarama, bir uyarı, bir yanlış pozitif, sıfır atfedilebilir tutuklama ve harcanan 320.786 sterlin — İngiltere'deki kullanımın geri çekilmek yerine hızlandığı bir anda hem eleştirmenlere hem de polise tartışacak somut veri veriyor. Teknoloji uzmanları için bu vaka, ham model doğruluğunun denklemin yalnızca bir parçası olduğunu hatırlatıyor: izleme listesi bileşimi, konumlandırma, zamanlama ve yönetişim, bir sistemin gerçek dünyada değer üretip üretmediğini belirliyor. Ve özel kategori biyometrik verilerin kamusal alanlarda, adanmış bir yasa olmaksızın işlendiği bir ortamda, operasyonel hedefle hukuki çerçeve arasındaki boşluk artık merkezî soru.