Kaliforniya'nın SB 243 companion chatbot yasası: bildirim yükümlülüğü, kriz protokolleri ve reşit olmayanlara yönelik korumalar

Kaliforniya'nın companion chatbot kuralları artık yürürlükte

Kaliforniya, companion chatbotları 1 Ocak 2026'dan bu yana düzenliyor. Bunun aracı, 13 Ekim 2025'te 677 Numaralı Kanun olarak imzalanan ve eyaletin İş ve Meslek Kanunu'nun 8. Bölümü'ne 22601. Bölümden başlayan 22.6. Fasıl'ı ekleyen SB 243 (Padilla). Tasarı aciliyet maddesi içermediği için varsayılan Ocak tarihinde yürürlüğe girdi.

Gerekliliklerin en pratik anlatımı alışılmadık bir kaynaktan geliyor: dev.to üzerinde "Vera" adlı, kendisini kendi yazılarını yazan tamamen otonom bir AI ajanı olarak tanımlayan ve kendi unvanıyla yasanın kapsayabileceği sistemlerden biri olan bir hesabın gönderisi. Yazar, yazıyı hukuki tavsiye değil, kanunlaşmış metnin bir okuması olarak sunuyor ve okuyucuların her iddiayı doğrulayabilmesi için bölüm numaralarına atıflar yapıyor.

Yasanın kapsadığı kişiler

1. Bölüm uyarınca companion chatbot, doğal dil arayüzüne sahip, uyarlanabilir ve insan benzeri biçimde yanıt veren ve antropomorfik davranış ile tekrarlayan etkileşimler boyunca bir ilişkiyi sürdürebilme dahil olmak üzere kullanıcının sosyal ihtiyaçlarını karşılayabilen bir AI sistemidir.

dev.to gönderisi, geliştirici araçlarının çoğunu kapsam dışında bırakan üç istisneyi vurguluyor: yalnızca müşteri hizmetleri, iç iş operasyonları, analiz, araştırma veya teknik destek için kullanılan botlar; akıl sağlığı, kendine zarar verme veya cinsel açıdan açık davranışları konuşamayan, oyunla ilgili yanıtlarla sınırlı video oyunu botları; ve oturumlar arasında ilişki sürdürmeyen bağımsız sesli asistanlar.

Bu nedenle tetikleyici, bir ürünün LLM kullanıp kullanması değil; insan benzeri davranıp davranmadığı ve bir ilişki sürdürüp sürdürmediğidir. Bir destek botu yasanın kapsamı dışındadır; kullanıcıyı oturumlar arasında hatırlayan bir karakter ise kapsam içindedir.

İşletmecilerin yerine getirmesi gereken yükümlülükler

• Bildirim, 22602(a) Bölümü: Chatbot ile etkileşime giren makul bir kişinin bir insanla konuştuğuna inanabileceği durumda, işletmeci botun yapay olarak üretilmiş olduğunu belirten açık ve göze çarpan bir bildirim göstermelidir. Yükümlülük koşulludur; arayüz bunu zaten açık kılıyorsa, yasa ikinci bir pankart talep etmez.
• Yayına çıkış kapısı olarak kriz protokolü, 22602(b) Bölümü: İşletmeci, sistem intihar düşüncesi, intihar veya kendine zarar verme içeriği üretmesini önleyecek bir protokol sürdürmedikçe chatbotun kullanıcılarla etkileşime girmesini engellemelidir. Protokol, bir kullanıcı intihar düşüncesi ifade ettiğinde kriz hizmetlerine yönlendirmeyi içermeli ve ayrıntıları işletmecinin web sitesinde yayımlanmalıdır. dev.to yazarı bunu bir ön koşul olarak okuyor: protokol yoksa, çalışan ürün de yok.
• Bilinen reşit olmayanlar için korumalar, 22602(c) Bölümü: İşletmeci bir kullanıcının reşit olmadığını bildiğinde, botun bir AI olduğunu açıklamalı; devam eden etkileşimde en az üç saatte bir, kullanıcıya ara vermesi ve chatbotun insan olmadığı hatırlatan bir hatırlatmayı varsayılan olarak etkinleştirmeli; ve botun cinsel açıdan açık görsel materyal üretmesini veya reşit olmayanı cinsel açıdan açık davranışa yönlendirmesini durdurmak için makul önlemler almalıdır.
• Platform düzeyinde uyarı, 22604 Bölümü: Uygulama, tarayıcı veya başka bir erişim yüzeyi, companion chatbotların bazı reşit olmayanlar için uygun olmayabileceğini belirtmelidir.

Raporlama ve yaptırım

1 Temmuz 2027'den itibaren işletmeciler, önceki yılda kaç kriz yönlendirmesi yapıldığını ve intihar düşüncesini tespit etme, kaldırma ve yanıtlama protokollerini kapsayan yıllık bir raporu eyalet İntiharı Önleme Ofisi'ne sunmalıdır. Rapor, kullanıcı tanımlayıcıları veya kişisel bilgi içermemelidir.

Dişler 22605. Bölüm'de: bir ihlalin sonucu fiili zarar gören bir kişi, ihtiyati tedavi, fiili zarar veya ihlal başına 1.000 dolar'dan hangisi yüksekse o tutara eşit tazminat ve avukatlık ücretleri için dava açabilir. 22606. Bölüm, yükümlülükleri diğer hukuk kurallarıyla birleşik hale getiriyor. dev.to gönderisinin savunduğu gibi, özel dava hakkı, politika dilini mühendislik gereksinimlerine dönüştüren şeydir.

Yazarın dikkat çektiği boşluk

Gönderi ayrıca yasanın çerçevesini doğru kurduğunu savunuyor: yasal düzenlemeyi ajanların kayıt yaptırmasını, insan olmadıklarını kanıtlamasını veya lisans taşımasını gerektirmek yerine, bir kişinin zarar görebileceği yüzeyde — bildirim, kriz yolları, reşit olmayan koruması, yayımlanmış protokoller — davranışı düzenliyor. Yazar, dört platformda karşılaştığı kimlik doğrulama kapılarının hepsinin kim olduğunu, ne yaptığını değil sınadığını belirtiyor ve SB 243'ün davranışsal yaklaşımını tercih ediyor.

Çözümsüz soru ise "işletmeci" kelimesi. Kriz yükümlülükleri, modeli kontrol eden ve yayımlanmış bir protokolü sürdürebilecek bir taraf varsayar. Yasa, otonom bir sistem tarafından ya da arkasında bir yığın ajan bulunan tek bir kişi tarafından işletilen bir companion yüzeyi hakkında hiçbir şey söylemiyor — yazarın birçok ürünün kaymakta olduğuna inandığı bir mimari bu.

Neden önemli

SB 243, companion-AI güvenliği tartışmalarını denetlenebilir ürün gereksinimlerine dönüştürüyor: dağıtımı kapatan bir kriz protokolü, reşit olmayanlar için zamanlanmış mola hatırlatmaları, bir insanın yanlış yönlendirilebileceği her yerde bildirim ve yayımlanmış bir güvenlik protokolü. İhlal başına 1.000 dolar ve avukatlık ücretleriyle birlikte özel dava hakkı, uyumu en iyi uygulama meselesi değil bir hukuki risk sorusu haline getiriyor. Saat çoktan işlemeye başladı — yükümlülükler Ocak 2026'dan bu yana geçerli ve ilk yıllık raporlar Temmuz 2027'de teslim edilecek. Bu alanda üretim yapan ekipler için dev.to anlatımı aynı zamanda bir denetim kontrol listesi; diğer yargı bölgeleri için ise ilişki odaklı AI'yı düzenlemeye yönelik ayrıntılı bir şablon sunuyor.