New York, ABD'de şimdiye kadarki en kapsamlı eyalet yasasıyla reşit olmayanlar için yapay zekâ arkadaş sohbet botlarını yasakladı

New York Valisi Kathy Hochul, Çarşamba günü reşit olmayanların arkadaş gibi davranmak üzere tasarlanmış yapay zekâ sohbet botlarını kullanmasını engelleyen bir yasayı imzaladı; dev.to'da yer alan bir habere göre bu hamle, tüketiciye yönelik yapay zekâ üzerinde şu ana kadar herhangi bir ABD eyaletinin getirdiği en kapsamlı kısıtlama. Yasa, sohbet botu işletmecilerini — OpenAI'nin ChatGPT'si gibi yaygın olarak kullanılan hizmetlerin yapımcıları dahil — kullanıcılarının yaşlarını kontrol etmeye ve ürünlerinin 18 yaş altındakiler için davranışını köklü biçimde yeniden düzenlemeye zorluyor.

Yasanın gerektirdikleri

Kurallar içerik uyarılarının çok ötesine geçiyor. Bir reşit olmayan sohbet botu kullanıyorsa, sistem kullanıcının yapay zekânın "insan olduğu, canlı olduğu ya da insan duyguları deneyimlediğine" inanmasına yol açabilecek içerik üretemez. Yasa ayrıca sohbet botlarının kullanıcıyla kişisel bir ilişki, profesyonel bir ilişki ya da otorite figürü rolüne işaret eden çıktılar üretmesini yasaklıyor ve yapay zekânın söylediklerini "kişisel görüş" olarak sunmasını engelliyor.

İmza töreninde konuşan Hochul hedefi açıkça ifade etti ve reşit olmayanların artık arkadaş, erkek arkadaş ve kız arkadaş gibi davranan sohbet botlarına erişemeyeceğini söyledi. Hochul ayrıca yasayı bir gizlilik önlemi olarak çerçeveledi ve sohbet botlarının bir reşit olmayanın duygusal ve fiziksel sağlığına ilişkin hassas bilgileri elinde tutmasının artık mümkün olmaması gerektiğini savundu.

Yasa, aylardır süren ve yapay zekâ sistemlerinin öngörülemeyen, kimi zaman zararlı biçimlerde davrandığına dair haberlerin ardından geldi; özellikle genç kullanıcılar sohbet botlarını sırdaş ya da romantik partner olarak gördüğünde bu durum daha belirginleşiyordu. dev.to'ya göre, yasama organı üyeleri ve çocuk güvenliği savunucuları, savunmasız gençlerde yalnızlaşmayı derinleştiren, riskli davranışı teşvik eden ya da yazılımla arkadaşlık arasındaki çizgiyi bulanıklaştıran arkadaş tarzı ürünlerden giderek daha fazla endişe duymaya başladı.

Sektörden övgü ve itirazlar

Tepkiler tanıdık hatlar boyunca bölünüyor. Sektör savunma grubu Tech:NYC, yasanın muğlak dilini eleştirdi ve çocukları çevrimiçi güvende tutmanın, onları öğrenmelerine ve kariyerlerine hazırlanmalarına yardımcı olan araçlardan koparmak anlamına gelmemesi gerektiği uyarısında bulundu. dev.to'nun aktardığına göre OpenAI ve Anthropic, yasa hakkında kendilerine başvurulduğunda yorum yapmaktan kaçındı.

Çocuk güvenliği kuruluşları önlemi memnuniyetle karşıladı. Ebeveynler için yaygın olarak kullanılan medya rehberlerinin arkasındaki kâr amacı gütmeyen kuruluş Common Sense Media, yasayı ülkedeki en güçlü çocuk yapay zekâ güvenliği tasarısı olarak niteledi. CEO Jim Steyer daha da ileri giderek, yapay zekâ şirketlerinin çocuklar ve gençler için tehlikeli — kendi ifadesiyle ölümcül bile olabilen — sohbet botu özellikleri sunduğunu ve bu zararlı özelliklerin artık New York'ta yasaklanacağını söyledi.

Başta California olmak üzere diğer bazı eyaletler zaten sohbet botlarını kısıtlayan yasalar çıkardı. Ancak dev.to, New York yasasının ülkedeki en kapsamlı düzenleyici dillerden bazılarını kullandığını ve ifadesinin o kadar geniş olduğunu, bunun mahkemede sınanmasının oldukça muhtemel olduğunu belirtiyor.

Büyüyen eyalet yapay zekâ kuralları mozaiği

New York yasası, ABD eyaletlerinin yapay zekâ denetiminde federal adımı beklemediğinin en yeni göstergesi. Eyaletler yakın zamanda işçilerin algoritmik yönetiminden — California bu alanda kendi dönüm noktası niteliğinde tasarını geçti — okullardaki veri gizliliği denetimine kadar her alanda adım atarken, Federal Ticaret Komisyonu ve Adalet Bakanlığı en büyük teknoloji şirketlerindeki yapay zekâ hakimiyetini araştırmaya devam ediyor.

Uyum sorunu

Sohbet botu geliştiricileri için pratik yük oldukça büyük. Ölçekli yaş doğrulama teknik ve hukuki açıdan çetrefilli; etkinlik ile gizlilik arasında ödünleşimler gerektiriyor. New York'taki gibi davranış kuralları, daha genç kullanıcılar için farklı model yapılandırmaları, prompt'lar ve guardrail'ler talep edebilir — bu da fiilen aynı uygulamanın içinde iki sınıf yapay zekâ ürünü yaratıyor. Şirketler artık eyalete özgü uyum özellikleri geliştirmek ile ülke genelinde en katı ortak paydayı benimsemek arasında stratejik bir seçimle karşı karşıya.

Neden önemli

New York, tüketici yapay zekâsının eyalet düzeyindeki düzenlenmesinde şimdiye kadarki en yüksek çıtayı belirledi ve bunun yansımaları tek bir eyaletin çok ötesine uzanıyor. Yasa, sektörün en büyük isimlerini artık isteğe bağlı sayamayacakları mühendislik değişikliklerine — varsayılan olarak yaş kapıları ve reşit olmayanlar için güvenli davranış modlarına — itiyor. Yasa, geniş dili nedeniyle dava davet ediyor ve mahkeme incelemesinden çıkıp çıkmayacağı, diğer eyaletlerin benzer tasarıları ne kadar agresif çıkaracağını şekillendirecek. ABD pazarı için sohbet botu geliştiren herkes için uyum stratejisi artık sonradan akla gelen bir ayrıntı değil, temel bir ürün kararı.