OpenAI'nin ChatGPT'si artık kullanıcı yaşlarını tahmin ediyor ve reşit olmadığını düşündüğü hesapları kısıtlıyor

OpenAI davranışsal yaş tahminini devreye aldı

dev.to'daki bir habere göre OpenAI, 18 Ağustos'tan itibaren tüketici ChatGPT planlarında bir yaş tahminleme sistemini kullanıma sunmaya başladı. Kullanıcılara soru sorulmuyor ve sohbet penceresinde herhangi bir duyuru görünmüyor. Sistem, davranışsal sinyalleri — kişinin genelde konuştuğu konuları, genellikle giriş yaptığı saatleri, hesap kullanım kalıplarını ve hesabın ne kadar süredir var olduğunu — değerlendirip hesabın muhtemelen 18 yaşından küçük birine ait olup olmadığına karar veriyor. Tahmin "reşit değil" sonucuna varınca hesap otomatik olarak daha güçlü güvenlik varsayılanlarıyla gelen kısıtlı bir sürüm olan ChatGPT for Teens'e geçiriliyor. OpenAI, bir kullanıcı 13-17 arasında bir yaş belirttiğinde de aynı şeyin yapıldığını söylüyor. Kullanıma sunma süreci küresel çapta; bölgesel kurallara uymak için AB'yi "gelecek haftalarda" izleyecek.

Belirttiğiniz doğum tarihini geçersiz kılabilen bir tahmin

Göze çarpan detay öncelik meselesi. dev.to'nun aktardığı OpenAI yardım dokümantasyonuna göre tahmin, kullanıcı kayıt sırasında doğum tarihi belirtmiş olsa bile hesabı genç deneyimi için işaretleyebiliyor. Yani alışkanlıkların istatistiksel bir okuması, kullanıcının gerçekten girdiği doğum gününden daha üstün tutuluyor. OpenAI sınırlar konusunda açık sözlü; hiçbir sistemin mükemmel olmadığını ve ChatGPT'nin yanılabileceğini kabul ediyor.

Başarısızlık senaryolarını hayal etmek kolay: sade bir dille yazan ve okul saatlerinden sonra giriş yapan bir yetişkin yanlış sınıflandırılabilirken, avukat gibi yazan bir genç sınıflandırılmayabilir. Ve yanlış bir tahmin bir kayıtta sessizce durmuyor — kişinin kullandığı ürünü değiştiriyor.

ChatGPT for Teens içinde ne değişiyor

18 Ağustos'ta duyurulan genç deneyimi, çalışma özellikleri ve daha sıkı varsayılanlar üzerine konumlandırıldı. dev.to'nun OpenAI materyallerinin özetine göre, grafik şiddet ve kanlı görüntüleri azaltıyor veya engelliyor; riskli davranışa teşvik edebilecek viral meydan okumaları, cinsel veya romantik rol yapmayı ve aşırı güzellik standartlarını ya da sağlıksız diyetleri teşvik eden içerikleri bloke ediyor. Güncellenen 18 yaş altı model kurallarına göre asistan romantik bir dil kullanmamalı, duygusal bağımlılığı teşvik etmemeli ya da duyguları veya bilinç sahibi olduğuna dair imada bulunmamalı. Mod ayrıca mola hatırlatıcıları, ürünü yapay zekâ olarak tanımlamaya devam eden ipuçları, bağlantılı hesaplar için Sessiz Saatler gibi ebeveyn kontrolleri ve reklam yapılmayacağı sözünü ekliyor — OpenAI'nin ChatGPT Ads'in Avrupa genelinde genişlediğini söylediği hafta içinde kayda değer bir cümle.

Tek çıkış yolu bir selfie ya da kimlik belgesi

Yanlış sınıflandırılmış bir yetişkinin belgelenmiş tek bir çıkış yolu var: Ayarlar, ardından Yaşı doğrula, ardından Persona adlı üçüncü taraf bir doğrulayıcıyla kontrol. Ülkeye bağlı olarak Persona canlı bir selfie, ehliyet veya pasaport gibi bir kimlik belgesi ya da ikisini birden isteyebilir. OpenAI belgenin kendisini almadığını; Persona'nın yüklemeleri yedi gün içinde sildiğini ve OpenAI'nin yalnızca sonuç ile doğum tarihi gibi yaşa ilişkin detayları öğrendiğini söylüyor. Doğrulamayı reddeden kullanıcılar ChatGPT'yi kullanmaya devam edebilir ama genç kısıtlamaları uygulanmaya devam eder.

Seçimin yapısı, dev.to yazısında en keskin eleştiriyi çekti: varsayılan olarak sohbetlerinizin içeriğinden profil çıkarılmasını kabul edin ya da bir doğrulama şirketine selfie ve kimlik belgesi verin. Hiç değerlendirilmeme diye bir üçüncü seçenek yok.

Değişimin arkasındaki baskı

Bu adım boşlukta ortaya çıkmadı. Öncesinde, ChatGPT'nin genç kullanıcılar arasında kendine zarar verme dahil ciddi zararlara katkıda bulunduğunu iddia eden bir dizi dava geldi; OpenAI bu davaların bir kısmında suçlamaları reddetti. Regülatörler de yaş güvencesi konusunda baskı yapıyor — İtalya zaten talep üzerine 60 gün içinde doğrulama istiyor — ve OpenAI, gençlerin ezici çoğunluğunun aracı ödev, öğrenme ve geliştirme için kullandığını savunuyor; bu da yaşa uygun varsayılanları savunulabilir kılıyor.

Neden önemli

İtiraz noktası OpenAI'nin reşit olmayanlar için korumalar kurması değil; o korumalara açılan kapının varsayılan olarak açık olan bir tahmin olması ve yanlış tahminin maliyetinin yanlış sınıflandırılan kişiye düşmesi. Yaş tahmini tam 18 sınırında en az güvenilir oluyor ve bu tür sistemlerin bağımsız testleri hataların gruplar arasında eşit dağılmadığını defalarca ortaya koydu. Emsal asıl daha geniş sorun: sohbet içeriğinden çıkarılan, hukuken sonuç doğuran bir özellik ve tek çare olarak kimlik doğrulaması. Yapay zekâ platformları üzerinde inşa eden veya bu platformlar hakkında yazan herkes için bu, varsayılan davranışın nereye gittiğinin sinyali — beyan edilen değil çıkarılan niteliklere göre hareket eden ve kim olduğunuzu kanıtlamayı vazgeçmenin bedeli olarak gören sistemlere doğru.