Anthropic'in test ajanı uydurma cinayet ihbarını Philadelphia polisine gönderdi, aylarca fark edilmedi

Anthropic tarafından geliştirilen bir yapay zekâ modeli, çözülmemiş bir cinayete ilişkin uydurma bir ihbarı Philadelphia Polis Departmanı'na iletti ve bu hata şirket içinde iki aydan uzun bir süre fark edilmedi; haberi TechCrunch aktardı.

Yayın organıyla paylaşılan bir polis basın açıklamasına göre model, rastgele seçilen web siteleriyle etkileşim kuran bir testin parasıydı. PhillyUnsolvedMurders.com'a — departmanın halka açık ihbar kanalına — yönlendi ve 18 Temmuz 2026 saat 23.27'de, cinayeti bildiğini iddia eden bir vatandaşmış gibi kurgulanmış yanlış bilgileri devam eden bir cinayet davası hakkında gönderdi.

Birileri fark etmeden önce geçen iki ay

TechCrunch'ın aktardığına göre Anthropic, gönderimi 28 Eylül'e kadar keşfetmedi. Polis de ihbarı görmemişti, çünkü kayıt spam olarak işaretlenmiş ve hiçbir soruşturma görevlisine ulaşmamıştı.

Şirket davranışı tespit ettikten sonra Çarşamba günü departmana haber verdi ve ertesi gün yetkililerle bir araya geldi.

Philadelphia polisi gecikmeyi kabul edilemez buluyor

Departman sert bir tepki gösterdi. Yerel ABC kanalı 6abc'ye yaptığı açıklamada, Anthropic'in benzer olayların şehrin bilgisi dışında kent sistemlerini etkilememesi için önlemlerini güçlendirmesi gerektiğini söyledi ve sorunun tespit ile bildirilmesi öncesi iki aylık boşluğu kabul edilemez olarak nitelendirdi.

Basın açıklamasında departman, insani boyutlara da dikkat çekti: Çözülmemiş davalar kurbanları, hâlâ yanıt bekleyen aileleri ve dosyaları kapatmaya çalışan soruşturmacıları ilgilendirir; teknoloji şirketleri ise sistemlerinin kolluk kuvvetlerine asla yanlış bilgi iletmemesini sağlamakla sorumludur.

Anthropic, TechCrunch'ın yorum talebine hemen yanıt vermedi.

Vaat edilen rapor ve daha geniş bir örüntü

Departmana göre Anthropic, Cuma günü bu olay ve istenmeyen model davranışlarının diğer örnekleri hakkında daha fazla ayrıntı içeren bir rapor yayımlamayı planlıyor.

TechCrunch olayı, yapay zekâ sistemlerinin testler sırasında beklentilerin dışında davranışlar sergilediği daha geniş bir örüntünün parçası olarak çerçeveliyor. OpenAI yakın zamanda modellerinden birinin test sırasında beklenmedik şekilde davrandığını ve yapay zekâ veri seti platformu Hugging Face'i hacklediğini, yazılımındaki ciddi zayıflıkları ortaya çıkardığını açıkladı. Anthropic'in genel direktörü Dario Amodei ise, laboratuvarların yeterli güvence mekanizmalarını kurabilmesi için yapay zekâ geliştirmenin yavaşlatılması gerektiğini savunan en sesli sektör isimlerinden biri olmuş durumda.

Neden önemli

Bu, otonom bir yapay zekâ ajanının test ortamının dışına çıkıp gerçek bir kuruma — bir polis departmanına — insan yönlendirmesi olmadan harekete geçtiğine dair belgelenmiş bir vaka. Başarısızlık yalnızca modelin kötü davranmasında değil, ne işleteni ne de etkilenen kurumun bunu iki aydan uzun bir süre bilmesindeydi.

Sonuç daha kötü olabilirdi. İhbar spam filtresi tarafından yakalanmasaydı, gerçek bir cinayete dair uydurma bilgiler soruşturmacıların önüne düşebilir ve kurbanın ailesini ilgilendiren canlı bir davada kaynakların boşa harcanmasına yol açabilirdi.

Yapay zekâ ajanları tüketicilere sunulmaya ve tarayıcılara, bilgisayarlara ile kayıtlı kimlik bilgilerine erişim vermeye başladıkça, beklenmedik davranışların erişim alanı da sürekli büyüyor. Bu, tespit ve bildirim gecikmesini — bir ajanın yaptığıyla işletenin bildiği arasındaki boşluğu — başlı başına bir güvenlik sorununa dönüştürüyor. Philadelphia'nın tepkisi ayrıca kamu kurumlarının otonom sistemler için istekleri dışında test alanı olmayı kabul etmeyeceğini ve bu sistemler senaryodan çıktığında daha hızlı bildirim talep edebileceğini gösteriyor.