Waymo, robotaksisinin içinde ateşli silah tespit ederek polisi aradı

Kelepkeyle sona eren bir yolculuk

Eylül başında iki genç bir Waymo robotaksine bindi ve yolculuğunu polis aracının arkasında tamamladı. Los Angeles Times'ın haberine göre Waymo, araçta ateşli silahla ilgili hizmet şartlarının ihlal edildiğini tespit etti, aracı durdurdu ve acil servisleri bilgilendirdi. Polis memurları, araçta sözde yüklü bir AR tipi "hayalet silah" bulmasının ardından yolcuları gözaltına aldı.

The Verge'nin de belirttiği gibi, bu olayı diğerlerinden ayıran detay kimin karşılaşmayı başlattığı. Önceki vakalarda polis, bir suçtan sonra Waymo'ya gelip kameralarının tesadüfen kaydettiği görüntüleri istemişti. Burada ise şirketin kendi araç içi izleme sistemi bir şey tespit etti, yolculuğu durdurdu ve polis müdahalesini başlattı.

Kuralları uygulayan kameralar

Waymo sözcüsü Julia Ilina, The Verge'ye verdiği demeçte araç içi kameraların yasaklı eşya ve davranışları tespit etme dahil olmak üzere şirketin hizmet şartlarını uygulamak için kullanıldığını ve otomatik teknolojinin ekiplerinin olası ihlalleri belirlemesine yardımcı olduğunu söyledi. "Waymo araçta ateşli silah tespit ederse yerel kolluk kuvvetleriyle iletişime geçebiliriz" dedi.

Şirketin açıklamadığı şeyler ise şunlar: otomatik sistem bir nesnenin ateşli silah olabileceğine nasıl karar veriyor, bir şeyi işaretlemeden önce ne kadar emin olması gerekiyor, polisle iletişime geçilmeden önce bir insanın uyarıyı inceleyip incelemediği ve hangi diğer kural ihlallerinin yetkililere haber verilmesiyle sonuçlanabileceği.

Eksik olan insani bağlam

The Verge'nin konuştuğu iki uzman, böyle bir sistemin muhtemelen nasıl çalıştığını özetledi. Güvenlik amaçlı kâr amacı gütmeyen SAVE-US'a danışmanlık yapan eski bir Zoox mühendisi olan Bob Somers, yazılımın muhtemelen çok çeşitli potansiyel olarak tehlikeli eşya ve davranışları işaretlediğini ve kesin olmasına gerek olmadığını söyledi: silaha sadece benzeyen bir şey bile daha yakından incelenmek üzere uzaktan bir operatöre yönlendirilebilir. Otonom araç güvenliği üzerine çalışan Carnegie Mellon emekli profesörü Phil Koopman ise bir arabaya silahı tanımayı öğretmenin teknik olarak mümkün olduğunu, ancak bu tür sistemlerin "asla yüzde 100 doğru olmadığını" belirtti.

Bu hata oranı önemli, çünkü uzaktan inceleyen bir kişi, yolculuğun tamamını yaşayan, duyabilen ve soru sorabilen bir taksi şoförünün sahip olduğu bağlamdan yoksundur. Waymo, araç içi mikrofonlarının genellikle yalnızca destek görüşmeleri sırasında veya yolcular etkinleştirdiğinde açık olduğunu söylüyor; yani bir inceleyici, işaretlenen anın öncesinde neler yaşandığını duymayabilir. Şirketin ABD ve Filipinler genelinde her an görevde yaklaşık 70 uzaktan destek ajanı var, ancak olası ihlalleri inceleyen kişilerin bunların arasında olup olmadığını belirtmedi.

Yanlış alarmlar varsayımsal değil. Temmuz ayında Waymo, iki genci reşit olmadıkları için içki içmek ve bir araçtan su bonbeği yüklü oyuncak bir silahla ateş etmek sebebiyle polise bildirmişti. Hakklarında dava açılıp açılmadığı bilinmiyor.

Hareketli bir gözetim ağı

Bu vaka, halihazırda süren bir tartışmayı genişletiyor. Bloomberg'e göre kolluk kuvvetleri Waymo görüntüleri için arama emri aldı ve geçen yıl LAPD, yakındaki bir Waymo'nun kaydettiği bir araç kaçırma kazası görüntüsünü elde etti. Los Angeles'taki ICE karşıtı protestolar sırasında beş Waymo vandalize edildi ve ateşe verildi; araçların protestocuları kaydedip kaydetmediğine dair sorular gündeme geldi. Waymo kaç kolluk kuvveti talebi aldığını veya bunlara ne sıklıkla uyduğunu kamuya açıklamıyor. The Verge, Flock'un otomatik plaka okuma sistemiyle bir karşılaştırma yapıyor; ancak önemli bir fark var: robotaksiler kameraları hem dışa hem içe dönük olarak şehirleri geziyor.

Yolculara net bilgi verilmiyor

Waymo'nun şartları, oyuncak silahlar dahil silahları ve onlara benzeyen her şeyi, uyuşturucularla birlikte yasaklıyor ve şirkete ihlaller nedeniyle hesapları askıya alma hakkı veriyor — bu seçenek bu yılın başlarında, yolcular bir aracın pencerelerinden sarkıp selfie çektiğinde kullanılmıştı. Ancak şartlar, araç içi izlemenin şirketin kendisinin polisi aramasına yol açabileceğini açıkça belirtmiyor. Waymo'nun kamera politikası, bir sorun ortaya çıktıktan sonra kaydedilmiş video incelemesine, acil durumlarda canlı video erişimine ve kolluk kuvvetleriyle veri paylaşımına izin veriyor; ancak otomatik tespitin Waymo tarafından başlatılan bir polis çağrısını tetikleyebileceğini belirtmiyor.

Electronic Frontier Foundation'dan Hayley Tsukayama politikaları "çok geniş" olarak niteledi ve araç paylaşım hizmetlerindeki yasa dışı davranışları savunmadığını, ancak yolcuların araca binmeden önce açıkça bilgilendirilmesi gerektiğini söyledi; şu haliyle "tüketicilerin beklentilerinin dışında".

Neden önemli

Bu olay, robotaksilerin sadece tesadüfen sokağı kaydeden pasif kameralar olmadığını gösteriyor. Bunlar, özel bir yolculuğu bir polis müdahalesine dönüştürebilen aktif tespit sistemleri. Kusurlu bilgisayarlı görü, sınırlı insan incelemesi, açıklanmayan güven eşikleri ve net bir yolcu bilgilendirmesinin yokluğuyla, silahlı memurları çağırma kararı giderek bir şirketin iç süreçlerine emanet ediliyor. Otonom filolar büyüdükçe bu gücün erişimi de büyüyor — ve yanlış yapmanın bedeli de.