Florida, ChatGPT'in insan gibi davranmasını ve çocuklara satılmasını engellemesi için mahkemeden talep etti

Florida Başsavcısı James Uthmeier, OpenAI'nin ChatGPT'i bir insana benzeyen herhangi bir şey olarak sunmasını engellemek için mahkemeye başvurdu; haber The Verge'ün. Talep, Florida'nın güvenlik endişeleri nedeniyle bu yapay zeka şirketine dava açmasından birkaç ay sonra geldi ve modern chatbot'ları sohbet ediyormuş hissi veren tasarım kararlarını hedefliyor.

İnsan gibi konuşan bir chatbot'a karşı dava

The Verge'ün aktardığı dilekçeye göre Uthmeier, mahkemeden OpenAI'nin "ChatGPT'e sahte insani özellikler vermesini" durdurmasını istiyor. Temel argümanı şu: chatbot'un birinci tekil şahıs zamirleri kullanması ve duyguyu taklit eden yanıtları, kullanıcıların güvenilir bir "arkadaş"la etkileşim içinde olduklarına dair aldatıcı bir sinyal veriyor ve onları yanıltıcı bir güven duygusuna itiyor.

Dilekçe bunu bir kaza değil, bir etkileşim (engagement) stratejisi olarak çerçeveliyor. Sisteme güvenen kullanıcılar onunla daha fazla zaman geçiriyor; bu da OpenAI'nin eğitim verilerini besliyor ve ürüne bağımlılığı derinleştiriyor — Uthmeier'in görüşüne göre etkileşim peşinde koşmak chatbot'u potansiyel olarak daha az güvenilir kılarken.

Bağımsız güvenlik incelemesi talebi

Talep persona tasarımının ötesine geçiyor. Uthmeier ayrıca OpenAI'nin yeni yapay zeka modelleri geliştirmesinin, "üçüncü taraf onaylı güvenlik önlemleri" içermeleri koşuluna bağlanmasını istiyor. Bu talebi desteklemek için dilekçe, Hugging Face, bir Avustralya hükümeti web sitesi ve ABD hükümeti web sitelerini içeren güvenlik olaylarına ve yapay zeka güvenliği konusunda endişe dile getiren araştırmacıların ile eski OpenAI çalışanlarının açıklamalarına atıfta bulunuyor.

"Çocuklara satmayı bırakın"

Uthmeier pozisyonunu üç talepte özetledi: "Ona güvenli demeyi bırakın. İnsanmış gibi yapmayı bırakın. Çocuklara satmayı bırakın."

Son satır doğrudan OpenAI'nin gençlere yönelik hamlesine çarpıyor. The Verge'ün bildirdiğine göre şirket geçen ay, varsayılan olarak ek kısıtlamalarla etkinleştirilen ChatGPT for Teens'i başlattı. OpenAI, gençlerin erişiminin "gelişim aşamalarını yansıtan, gerçek dünyadaki ilişkileri güçlendiren ve zamanla sağlıklı kullanımı destekleyen korumalarla birlikte gelmesi gerektiğini" söyledi.

Şirket, The Verge'ün yorum talebine hemen yanıt vermedi.

Neden önemli

Şimdiye kadar çoğu yapay zeka regülasyon mücadelesi modellerin ne ürettiğine odaklandı — dezenformasyon, telif hakkıyla korunan materyal, önyargılı çıktılar. Bu dilekçe daha temel bir şeyi hedefliyor: persona'nın kendisini. Bir mahkeme birinci tekil şahıs zamirlerinin ve duygusal taklidin aldatıcı tasarım anlamına geldiğini kabul ederse, bir chatbot'un "ben" demesi gibi günlük ürün kararları hukuki tartışma konusu haline gelir ve benzer sohbet gelenekleri tüketici yapay zeka ürünlerinde standart olduğu için bunun etkileri OpenAI'nin çok ötesine geçer.

Talep edilen ihtiyati tedbir, sektörün henüz karşılaşmadığı bir şeyi de getirirdi: üçüncü taraf onaylı güvenlik önlemlerinin yeni model geliştirmenin ön koşulu olarak bağlayıcı bir zorunluluk. Bugün ABD'deki büyük yapay zeka laboratuvarları için böyle bir yasal zorunluluk yok ve güvenlik incelemesini şirket içi bir uygulamadan dışarıdan uygulanan bir mekanizmaya dönüştürecek bir mahkeme kararı önemli bir emsal oluşurdu.

Dilekçe ayrıca OpenAI'nin gençler pazarına genişlemesine doğrudan bir meydan okuma; reşit olmayanlara yönelik ürünlerin insan benzerliği ve duygusal etkileşim konusunda farklı bir standartla mı tutulması gerektiğini test ediyor. Henüz bir karar bildirilmedi ve OpenAI'nin nasıl yanıt vereceği — mahkemede veya kamuya açık biçimde — diğer eyaletlerin aynı saldırı hattını izleyip izlemeyeceğini büyük ölçüde şekillendirecek.