ABD'nin sekiz eyaleti OpenAI'a ChatGPT'nin çocuk güvenliğine ilişkin iddialarla dava açtı

Sekiz eyalet OpenAI'ı mahkemeye veriyor

OpenAI, şirketi çocuklara zarar vermek ve ChatGPT'nin gerçekte ne kadar güvenli olduğunu yanlış göstermekle suçlayan, ABD'nin sekiz eyaletinden gelen eş zamanlı davalarla karşı karşıya. The Verge'un, Reuters'ın önceki haberlerine dayanarak aktardığına göre şikayetler Iowa, Kansas, Nebraska, Batı Virginia, Arkansas, Arizona, Idaho ve Montana tarafından ayrı ayrı sunuldu.

Tek bir ortak dava yerine her eyalet, kendi vakasını yerel tüketici koruma yasası kapsamında açtı — bu yapı, OpenAI'ın hukuki yükümlülüğünü aynı anda birden fazla yargı alanına yayıyor.

Davaların iddiaları neler

Şikayetlerde, OpenAI'ın chatbot'unun tehlikeleri hakkında müşterileri uyarmayarak eyalet tüketici koruma kurallarını ihlal ettiği savunuluyor. Gerçek dünyadaki zararın kanıtı olarak da, ChatGPT'nin sevdiklerinin ölümünde rol oynadığını iddia eden gençlerin ve yetişkinlerin ailelerinin açmış olduğu mevcut davalara işaret ediliyor.

The Verge'un aktardığı dilekçelere göre eyaletler, OpenAI'ın ChatGPT'yi güvenliğe öncelik veren, gençlere uygun bir ürün olarak pazarladığını, oysa savunmasız kullanıcılar için aslında tehlikeli olduğunu ileri sürüyor. İddia edilen zararlar arasında eleştirel düşünme becerisinin zayıflaması, paranoyak ya da sanrılı düşüncenin pekiştirilmesi, güvensiz tıbbi tavsiyeler verilmesi ve sağlıksız davranış ile ilişkilerin teşvik edilmesi yer alıyor.

Eyaletler ayrıca OpenAI'ı reşit olmayanlardan veri toplamak ve yaşından küçük kullanıcıların chatbot'a erişimini baştan engellemek için yeterli çaba göstermemekle suçluyor. Dilekçelerde, hacking yapan başıboş AI agent'larla ilgili son olaylara da değiniliyor; eyaletler bunları ihmalkârlığın başka bir kanıtı olarak sunuyor.

Arizona'nın dilekçesi en kapsamlı argümanı ortaya koyuyor: OpenAI'ın güvenliğe odaklanan kâr amacı gütmeyen bir kuruluş olan kökenlerinden uzaklaştığı ve yapay zekâ kadar güçlü bir teknolojinin, temel güvenlik önlemlerini ikincil plana iten kâr öncelikli bir zihniyetle geliştirilmesi durumunda ne olduğuna dair uyarı niteliğinde bir örneğe dönüştüğü savunuluyor.

OpenAI'ın yanıtı

The Verge'a e-postayla gönderdiği bir açıklamada OpenAI sözcüsü Drew Pusateri, şirketin ChatGPT'ye "sektörde öncü yaşa özgü korumalar" olarak nitelendirdiği önlemleri yerleştirdiğini söyledi. Hiçbir sistemin kusursuz olamayacağını kabul eden Pusateri, OpenAI'ın dış uzmanlarla çalışmaya devam edeceğini belirterek ebeveyn kontrolleri, mola hatırlatıcıları ve yaşa uygun model korumaları gibi halihazırda var olan güvenlik önlemlerine işaret etti.

Pusateri, OpenAI'ın tüm yapay zekâ sektörüne uygulanacak pragmatik AI politikaları üzerinde eyaletlerle iş birliği yapmaya hazır olduğunu da ekleyerek şirketin savunmasını, rakiplerinin de uymak zorunda kalacağı bir standartla yargılanmak yerine tek başına hedef alınması fikri üzerinden konumlandırdı.

Eyaletler ne istiyor

Davacılar mahkemelerden OpenAI'a bir dizi cezai tazminat uygulanmasını ve şirketin ChatGPT'nin güvenliğine ilişkin yanıltıcı iddialarda bulunmasının engellenmesini istiyor. Bazı eyaletler ayrıca, kullanıcılarından yasa dışı biçimde toplandığını savundukları kişisel verilerin silinmesini talep ediyor.

Neden önemli

Bu, bir yapay zekâ şirketinin ABD eyalet hükümetlerinden gördüğü en önemli hukuki mücadelelerden biri. Eyaletler, özel bir yapay zekâ mevzuatını beklemek yerine, uzun süredir var olan tüketici koruma ve veri gizliliği yasalarını ailelere pazarlanan bir chatbot'a karşı kullanıyor — bugün mevcut olan ve herhangi bir yapay zekâ satıcısına karşı yinelenebilecek bir hukuki yol bu.

Bu davaların bir kısmı bile başarılı olsa sonuçları para cezalarının ötesine geçer: mahkeme kararıyla verilerin silinmesi ve güvenlik pazarlamasına getirilecek kısıtlamalar, OpenAI'ın ChatGPT'yi özellikle genç kullanıcılara nasıl konumlandırabileceğini değiştirir. Davalar ayrıca yapay zekâ ürünlerinin reşit olmayanlar üzerindeki etkilerine yönelik artan denetimin ortasında geliyor ve OpenAI'ın kendi çerçevesi — politikanın tek bir şirketi değil tüm sektörü bağlaması gerektiği — mahkemelerdeki süreci şekillendirecek savunma stratejisinin ön izlemesini sunuyor.