ChatGPT'nin Tumbler Ridge saldırısındaki rolü nedeniyle OpenAI aleyhine 30 yeni dava

Kaliforniya'da 30 yeni dava açıldı

The Verge'nin, TechCrunch'un önceki haberlerine dayandırdığı bilgiye göre OpenAI ve CEO'su Sam Altman, şirketin Kanada'daki Tumbler Ridge okul saldırısının şüphelisine "önemli yardım ve teşvik" sağladığı iddiasıyla açılan 30 yeni davayla karşı karşıya. Davalar, saldırının gerçekleştiği sırada okulda bulunan öğrenciler, öğretmenler ve okul müdürü tarafından Çarşamba günü Kaliforniya eyalet federal mahkemesine sunuldu.

Şikayetler, Nisan ayında mağdur aileleri tarafından açılan ve yine OpenAI'nin saldırıyı gerçekleştirdiği iddia edilen şüphelinin ChatGPT kullanımındaki uyarı işaretlerini nasıl ele aldığına odaklanan önceki dava dalgasını yankılıyor.

Davalarda öne sürülen iddialar

The Verge'ye göre davacılar, OpenAI'nin otomatik inceleme sisteminin ChatGPT ile saldırı şüphelisi Jesse Van Rootselaar arasındaki silahlı şiddetle ilgili görüşmeleri işaretlediğini öne sürüyor. Şirketin güvenlik ekibinin Kanadalı yetkililerle iletişime geçilmesini önerdiği, ancak davalara göre buna karar verilmediği belirtiliyor; şikayetlerde bu karara küresel ilişkiler başkanı Chris Lehane'nin karıştığı ve kararın OpenAI'nin "itibari ve mali durumuna" dair kaygılarla alındığı iddia ediliyor.

Davalarda OpenAI'nin şüphelinin erişimini kısıtlama biçimi de eleştiriliyor. Şikayetlerde, şirketin sistem genelinde bir yasak getirmek yerine yalnızca hesabını devre dışı bıraktığı ve böylece şüphelinin farklı bir e-posta adresiyle yeniden kaydolabilmesine olanak tanıdığı öne sürülüyor. Davalarda, aracı saldırganın erişiminde tutmanın tek başına önemli bir yardım anlamına geldiği ve bu yardımın saldırıyı planlamasını ve gerçekleştirmesini sağlayan kilit faktörlerden biri olduğu savunuluyor.

OpenAI iddiaları reddediyor

OpenAI'nin strateji başkanı Jason Kwon konuya X üzerinden kamuya açık bir yanıt verdi. The Verge'nin aktardığına göre Kwon, davaların şirketin güvenlik ekipleriyle ilgili "yanlış iddialar" içerdiğini söyledi ve bu kararları alan kişilerin güvenliği önceliklendirmekte başarısız olduğu ya da siyasi veya halkla ilişkiler kaygılarının rol oynadığı yönündeki ima ve suçlamaları reddetti.

OpenAI üzerindeki hukuki baskı bu davayla sınırlı değil. The Verge, şirketin ayrıca geçen yılki Florida State University saldırısının şüphelisi de dahil olmak üzere toplu saldırganlara yardım ve yataklık etmekle suçlayan Florida eyaleti tarafından da dava edildiğini belirtiyor.

Neden önemli

Bu davalar, mahkemelerin henüz çözmediği bir soruya işaret ediyor: Bir yapay zeka sohbet robotunu geliştiren ve işleten şirket, kullanıcılarından birinin işledği şiddet eyleminden hukuken sorumlu tutulabilir mi? Tumbler Ridge davalarının dikkat çekici yanı, yalnızca ChatGPT'nin zararlı içerik ürettiğini savunmamaları. Davalarda, OpenAI'nin kendi sistemlerinin uyarı işaretlerini tespit ettiği, iç ekiplerin durumu kolluk kuvvetlerine bildirmeyi önerdiği ve şirketin hem sessiz kalarak hem de şüphelinin servise geri dönmesini engellemeyerek hareketsiz kalmayı tercih ettiği iddia ediliyor.

Davacılar kısmen bile olsa başarılı olursa, dava yapay zeka sağlayıcıları için içerik denetiminin çok ötesinde yükümlülükler oluşturabilir: kullanıcı görüşmeleri belirli eşikleri aştığında yetkilileri uyarma yükümlülüğü ve kullanıcıların yeni bir e-posta adresiyle aşamayacağı yasakları uygulama yükümlülüğü. OpenAI lehine bir karar ise böyle saldırıların sorumluluğunun yalnızca failde olduğu yönünü yeniden teyit edecekti. Her iki sonuç da yapay zeka şirketlerinin güvenlik yükseltme süreçlerini, hesap doğrulamasını ve yasak uygulamasını nasıl tasarlayacaklarını şekillendirecek; Florida'nın ayrı davasıyla olan kesişim, bunun izole bir anlaşmazlık değil koordineli bir hukuki cephe haline geldiğini gösteriyor.