Anthropic, Claude'daki bir günlük kaydını polise bildirdi ve Florida'daki bir kadın artık ağır suçlamayla karşı karşıya

Florida'daki bir kadın, Anthropic'in Claude'daki konuşmalarından birini polise bildirmesinin ardından ağır bir suçlamayla karşı karşıya. TechSpot'a göre kadın, sohbet botunu kişisel bir günlük olarak kullanıyordu ve Claude'un güvenlik sistemleri tarafından işaretlenen bir kayıt, kaydı güvenilir bir tehdit olarak değerlendiren insan bir incelemeciye iletildi.

Ne oldu

TechSpot'ın aktardığı tutanak tutanağına göre Florida, Bonita Springs'ten Carli Michelle Heller, 26 Eylül'de Claude'a Şerif Ofisi'ne saldırmayı planladığını yazdı. Sorgulandığında, Anthropic'in sohbet botunu bir "günlük" olarak kullandığını söyledi.

Claude'un otomatik güvenlik sistemleri kaydı işaretleyerek insan bir incelemeciye iletti. İncelemeci, ifadelerin güvenilir bir tehdit oluşturduğu kararına vardıktan sonra şirket, bilgileri kolluk kuvvetlerine aktardı. Anthropic, ölüm veya ciddi fiziksel yaralanmayı önlemek için ifşanın gerekli olduğuna inandığı sınırlı acil durumlarda kullanıcı bilgilerini paylaşabileceğini belirtiyor.

Şerif yardımcıları Heller'ın kimliğini tespit etti, evine gitti ve olay çıkarmadan gözaltına aldı; ardından soruşturmayı şerif ofisinin istihbarat dedektifi devraldı.

Heller'ın karşılaştığı suçlama

Heller, yazılı şiddet tehdidi oluşturma suçlamasıyla karşı karşıya. TechSpot, ilgili yasa olan Florida Statute 836.10'u özetliyor; bu yasa, birini öldürmek veya yaralamak, toplu silahlı saldırı gerçekleştirmek veya terör eylemi işlemekle tehdit eden yazılı veya elektronik bir kaydı göndermeyi, yayınlamayı veya iletme yı ikinci derece ağır suç haline getiriyor. Yasa ayrıca iletişimin başka bir kişinin görebileceği bir şekilde yapılmasını şart koşuyor — bu şart, özel bir sohbet penceresine yazılan sözlerin yasanın nasıl kapsayacağına dair soruları beraberinde getiriyor.

Yapay zeka sağlayıcıları iki yönden de sıkıştırılıyor

Dava, yapay zeka şirketlerinin ne zaman polisi devreye sokması gerektiğine ilişkin davalar ortasında gündeme geldi. TechSpot'un haberine göre British Columbia, OpenAI ve Sam Altman'a dava açtı ve şirketin eyalette bir toplu silahlı saldırıyı önleyebileceğini iddia etti. Saldırgan olan 18 yaşındaki eski öğrenci Jesse Van Rootselaar, daha önce silah şiddetiyle ilgili konuşmaları nedeniyle OpenAI'nin güvenlik ekibi tarafından işaretlenmişti, ancak OpenAI bu konuşmalar hukuki bildirim eşiğini karşılamadığı için hiçbir zaman polisi bilgilendirmemişti. Florida da Haziran'da OpenAI ve Altman'a dava açarak ChatGPT'nin 2025 Florida State University saldırısı dahil gerçek dünyadaki zararlara katkıda bulunduğunu iddia etti.

Tezat çarpıcı: Bir şirket işaretlenen konuşmaları bildirmediği için dava ile karşı karşıya kalarken, başka bir şirketin bildirimi ağır bir suçlamayı besliyor. Her iki senaryoda da, kullanıcının sözlerinin çizgiyi aşıp aşmadığına dair karar, kullanıcının asla görmediği eşikleri uygulayan sağlayıcının kendi incelemecilerinde.

Kullanıcı içeriğinin insanlar tarafından incelenmesi Anthropic'e özgü değil. TechSpot ayrıca, Microsoft Copilot'ın görsel düzenleyicisini inceleyen yüklenicilerin, bu incelemeciler içeriği denetlemek için değil çıktı doğruluğunu değerlendirmek için işe alınsa da, kullanıcıların prompt'larını, yükledikleri fotoğrafları ve yapay zeka tarafından yapılan düzenlemeleri — bir kısmı cinsel, rahatsız edici veya potansiyel olarak yasa dışı — görebildiğine dair önceki haberlere işaret ediyor.

Neden önemli

Temel ders şu: Bir sohbet botu bir günlük değildir. Claude gibi hizmetlerle yapılan konuşmalar otomatik güvenlik sistemlerinden ve zaman zaman insan incelemecilerden geçer ve sağlayıcı, acil durum olarak değerlendirdiğinde içeriği polise teslim etme hakkını saklı tutar. Kullanıcılar için bu, bir sohbet penceresine dökmek ciddi hukuki riskler taşıyabileceği anlamına geliyor — bu örnekte ikinci derece bir ağır suçlama. Sektör içinse bu, rahat bir varsayılan bulunmadığını gösteriyor: İşaretlenen konuşmalar hakkında sessiz kalıp dava riskiyle karşılaşmak ya da bildirip mahrem, günlük benzeri yazışmaların gözetlenmesine ilişkin zor sorularla yüzleşmek. Yapay zeka günlüğü ve arkadaşlık uygulamaları yaygınlaştıkça, özel düşünce ile bildirilebilir içerik arasındaki çizgi, teorik bir sorundan ziyade güncel bir hukuki soruna dönüşüyor.