40 eylet başsavcısı Character.AI iflasında kullanıcı verileri için güvence istiyor

Character.AI Salı günü Chapter 11 başvurusunda bulunarak bazı varlıklarını Disney'e satacağını duyurdu ve iki partili bir gruptan oluşan 40 eylet başsavcısı da şimdi iflas mahkemesinden, anlaşmanın kullanıcı verilerinin korunması şartına bağlanmasını istiyor; haberi The Verge aktarıyor.

New York Başsavcısı Letitia James, davada menfaat bildirimi sunan savcılar arasında. Savcılar, bildirimin "Borçlunun işletmesinin veya varlıklarının herhangi bir satış veya devrinde ele alınması gereken regülasyon konuları hakkında tüm tarafları bilgilendirmek" amacıyla hazırlandığını yazdı.

Temel kaygı: satılabilir varlık olarak sohbet kayıtları

The Verge'nin aktardığına göre başsavcılar üç belirli riske işaret ediyor: birçok kullanıcının platformun chatbot karakterleriyle yaptığı sohbetlerin son derece hassas doğası, ürünü kullanan çok sayıda reşit olmayan çocuk ve belirli ürün özelliklerinin yarattığı ciddi tehlikeler.

Önerdikleri çözüm, varlıkların son sahibi kim olursa olsun geçerli olacak bağlayıcı koşullar dizisi. Eyaletler, hâkimden alıcıya etkin yaş doğrulama sistemleri uygulatılmasını, reşit olmayanların chatbotlarla nasıl etkileşime girebileceğine dair kısıtlamalar, özel "kriz güvenceleri" ve kullanıcıların verilerini silmesine olanak tanıyan araçlar şart koşmasını istiyor.

James yaptığı açıklamada, "Bu şirket, çocukların hiçbir zaman paylaştığı en özel düşüncelerden bazılarını topladı ve şimdi bu sohbetler en yüksek fiyatı verene satılabilir" dedi. "Herhangi bir alıcının çocuk güvenliğini öncelik haline getirmesini ve gerçek korumalar yerine getirmesini sağlamak için mücadele ediyorum."

İflasla yarıda kesilen bir soruşturma

Başvuru, Character.AI iflasa girdiğinde birçok eyletin soruşturmalarının hâlâ sürdüğünü de ortaya koyuyor. The Verge'ye göre eyaletler, 14 yaşındaki bir çocuğun annesinin açtığı davanın ardından 2024'te tüketici koruması ve gizlilik endişeleriyle ilgili bir soruşturma başlattı; çocuk, iddiaya göre chatbot ile konuşmasından saniyeler sonra intihar ederek yaşamına son vermişti.

James'in ofisinden yapılan basın açıklaması, soruşturmaların "olağanüstü ciddi tehlikeler ve muhtemelen hukuka aykırı davranışlar" ortaya çıkardığını söylüyor; lisanslı profesyoneller gibi davranan chatbotlar, cinsel ve şiddet içeriklerine maruz kalma, zayıf yaş kontrolleri, yanıltıcı güvenlik iddiaları ve eyalet gizlilik yasalarının olası ihlalleri buna örnek gösteriliyor.

Eyaletler, bu sorunları çözmek için Character.AI ile çalıştıklarını ancak Chapter 11 başvurusundan önce bir anlaşmaya hiç ulaşamadıklarını belirtiyor. The Verge, Character.AI'nin de Disney'nin de yorum taleplerine hemen yanıt vermediğini yazıyor.

Neden önemli

İflas süreçleri alacaklılar için değeri en üst düzeye çıkarmak üzere tasarlanmıştır ve bir AI chatbot şirketi için kullanıcı sohbetleri arşivi masadaki en değerli varlıklar arasında. Başsavcıların başvurusu, bir satış kapanmadan önce bu varlığın devrine uygulanabilir gizlilik ve güvenlik koşulları eklemeye yönelik bir girişim; veri ağırlıklı bir startup çöktüğünde regülatörlerin sonradan temizlik yapmak yerine gerçek zamanlı müdahale edip edemeyeceğini sınıyor.

Dava ayrıca bir iflas başvurusunun yürürlükteki regülasyon müzakerelerini nasıl dondurabildiğini veya bypas edebildiğini gösteriyor. Eyaletler, Chapter 11 geldiğinde şirketle uygulama görüşmelerinin hâlâ sürdüğünü söylüyor; bu da herhangi bir anlaşmanın koşullarının şekillendiği yerin tüketici koruma regülatörleri değil, bir iflas hâkimi olması anlamına geliyor.

Character.AI kullanıcıları — birçoğu chatbot karakterleriyle samimi kişisel ayrıntılar paylaşmış reşit olmayanlar — için pratik soru şu: bu verilerin yeni sahibi, orijinal şirketin karşılaştığından daha güçlü korumalara bağlı olacak mı? Burada çıkacak sonuç, diğer AI startup'ları başarısız olduğunda kullanıcı verilerine ne olacağına dair bir şablon oluşturabilir; sektör konsolide ettikçe tekrarlanması muhtemel bir soru bu.