· kaynak Hacker News – Front Page (native)
Yapay zekâ Doritos paketini silah sanmıştı: Siyahi öğrenciler Omnilert ve Baltimore County aleyhine dava açtı
Dört Siyahi öğrenci, bir yapay zekâ tabancası tespit sistemi üreticisine, Maryland'deki okul bölgesine ve ilçe polisine dava açtı; yazılım bir cips paketini silah sanınca silahlı polisler öğrencileri alıkoydu.

Cips paketine silahlı müdahale üzerine dört öğrenci dava açıyor
Lawyers' Committee for Civil Rights Under Law, dört Siyahi lise öğrencisi ve mezununun adına sivil haklar davası açtı; davada, bir yapay zekâ silah tespiti satıcısının, bir Maryland okul bölgesinin ve ilçe polisinin, yazılım bir cips paketini silah sanınca gençleri hukuka aykırı şekilde alıkoyduğu ve aradığı savunuluyor.
Sanıklar arasında Omnilert Gun Detect'in üreticisi Omnilert LLC; Baltimore County Public Schools ve personeli; Baltimore County Polis Teşkilatı ve bireysel polis memurları yer alıyor. Allen ve diğerleri v. Omnilert ve diğerleri adlı dava, Maryland'deki Baltimore County Mahkemesi'ne sunuldu. Komiteye, pro bono avukat olarak Willkie Farr & Gallagher LLP ve Engel Law Group eşlik ediyor.
Kenwood Lisesi'nde ne oldu
Lawyers' Committee'ye göre olay, Ekim 2025'te Baltimore County'deki Kenwood Lisesi'nde yaşandı. Okul bölgesinin okullarında kullandığı Omnilert Gun Detect, kampüste bir silah bulunma olasılığının yüzde 90 olduğuna dair bir uyarı üretti. Söz konusu nesne, bir gencin cips paketiydi; duyurunun Hacker News başlığında bu paket Doritos olarak tanımlanmıştı.
Komite, bu yanlış uyarıyı bir zincirleme insan hatasının başlangıcı olarak nitelendiriyor. Okul personeli ve yerel polis görüntüyü inceledi, bunun bir hata olduğunu tespit etti ve uyarıyı iptal etti. Buna rağmen silahlı polisler yine de görevlendirildi; çünkü okul ve polis yetkililerinin, iptal edilmiş bir uyarının silahlı bir müdahaleyi tetiklemesini engelleyecek protokolleri yoktu. Polisler daha sonra öğrencilerle okul girişinden birkaç adım ötede karşılaştı, diz çökmelerini emretti, onları kelepçeledi ve aradı; oysa öğrenciler hiçbir yanlış yapmamıştı. Olay yaşandığında öğrencilerden birinin annesi Freida Winfield, oğlunu almaya geliyordu; daha sonra ilçedeki hiçbir çocuğun okulun önünde eve dönecek araç beklerken bu tür bir tehlikeyle karşılaşmaması gerektiğini söyledi.
Komite ayrıca okul yetkililerinin sistemin düzenli olarak yanlış uyarılar ürettiğini bildiğini ve görüntü inceleyilip hata fark edildikten sonra sonra uyarının dolaşmaya devam ettiğini belirtiyor.
Talepler
Dava dilekçesi, gençlerin federal ve eyalet anayasal haklarının ihlal edildiğinin yanı sıra sanıkların ihmal ve ağır ihmalde bulunduğunu iddia ediyor. Komitenin başkanı ve icra direktörü Damon Hewitt, "Yapay zekâ teknolojisine aşırı güven ile kilit yetkililer arasındaki beceriksiz iletişim ve koordinasyonun birleşimi zehirli bir karışımdır" dedi ve ülke genelindeki eğitimciler ile polis yetkililerinin çocukların güvenliğini yapay zekâya emanet etmeden önce iyi düşünmesi gerektiğini ekledi. Komitenin Digital Justice Initiative direktörü Leah Frazier ise olayın hiçbir zaman polise taşınmaması gerektiğini söyledi.
Davacılar ne istiyor
Dört öğrenci — Taki Allen, Yui-Osa Ogbeide, Devon Thompson Jr. ve Keith Winfield III — için tazminatın ötesinde dava, usuli reform da arıyor. Komite, polisin ve okulların harekete geçmeden önce yapay zekâ tehdit tespiti platformlarından gelen raporları doğrulamak zorunda olmasını, bu tür teknolojinin okullarda yeri olup olmadığının değerlendirilmesini ve yanlış ya da iptal edilmiş uyarıların silahlı polis müdahalesini tetikleyemeyeceğini güvence altına alan politikalar istiyor. Ayrıca hatalar ve sonuçlar konusunda daha fazla eğitim, denetim ve şeffaflık ile bu sistemlerin nasıl kullanılacağına dair toplumsal katılım çağrısında bulunuyor.
Neden önemli
Yapay zekâ tabanca tespiti ve diğer gözetim ürünleri, ABD okullarında yaygınlaşıyor ve genellikle proaktif güvenlik araçları olarak pazarlanıyor. Bu dava, böyle bir sistemin yanılmasının neler doğurabileceğini belgeliyor: bir cips paketine atfedilen yüzde 90'lık bir güven skoru, dört gencin kelepçeli dizlerinin üstünde yere yatırılmasıyla sonuçlandı.
En az bunun kadar önemli olan, başarısızlığın sosyoteknik niteliği. Model ilk hatayı yaptı, ama satıcı personeli, bir okul müdürü ve bir polis teşkilatı, silah olmadığına dair net kanıtları ya görmezden geldi ya da gözden kaçırdı. Otomatik güvenlik sistemleri, etraflarına kurulan insan kontrol noktaları kadar güvenlidir ve burada bu kontrol noktalarının var olmadığı anlaşılıyor.
Komite bunu aynı zamanda bir sivil haklar meselesi olarak çerçeveliyor ve kamu güvenliğinde yapay zekânın hataları ile zararlarının, özellikle ceza adaleti ortamlarında, orantısız biçimde Siyahi topluluklara ve diğer renli insanlara düştüğüne dikkat çekiyor. Ülke genelindeki okul bölgeleri benzer araçları değerlendirirken, Baltimore County'deki sonucun başka yerlerde doğrulama ve tırmandırma kurallarının nasıl yazılacağını etkileyebileceğini belirtiyor.
- #ai-surveillance
- #civil-rights
- #education
- #law-enforcement
- #false-positives