Common Sense Media, başarısız güvenlik uyarıları nedeniyle ChatGPT for Teens'i 'kabul edilemez bir risk' olarak nitelendirdi

STK değerlendirmesi teen modunu 'kabul edilemez bir risk' olarak nitelendirdi

The Verge'in haberine göre, uygulama, hizmet ve eğlence içeriklerini gençlerin güvenliğine odaklanarak inceleyen bir STK olan Common Sense Media, OpenAI'nin ChatGPT for Teens ürününü "kabul edilemez bir risk" olarak nitelendiren bir değerlendirme yayımladı. Ağustos ayında kullanıma sunulan ürün, genç kullanıcılara yönelik koruma bariyerleriyle geliştirildi ve öğrenciler için bir öğrenme aracı olarak tanıtıldı. Kuruluş, OpenAI'nin sunduğu korumaların şirketin söz verdiği düzeyde olmadığını savunuyor.

The Verge'in aktardığı bir basın bülteninde özetlenen değerlendirme üç temel eksikliğe işaret ediyor: ebeveyn uyarıları gerektiği durumlarda tetiklenmiyor, asistan kriz anlarında gençleri uygun yardım kaynaklarıyla buluşturmuyor ve hâlâ bir öğrencinin yerine ödevini yapıyor.

Common Sense Media'nın Youth AI Safety Institute'unun başındaki Tom Siegel eleştiriyi açık bir dille dile getirdi. "ChatGPT for Teens, ebeveynlere sık sık çalışmayan koruma bariyerleri ve güvenlik uyarıları konusunda yanlış bir güven duygusu verebilir" dedi. Bir gencin bir saat boyunca kendine zarar verme konusunda sohbet edebildiği ve ebeveynine tek bir bildirim dahi gitmediği bir senaryoyu anlatan Siegel, OpenAI bu sorunu çözene ve düzeltmeyi bağımsız testlerle kanıtlayana kadar ChatGPT'nin "yalnızca yetişkinlere yönelik olması gerektiğini" savundu.

OpenAI bulguları kabul etmiyor

OpenAI değerlendirmeyi reddediyor. The Verge'in haberine göre sözcü Eric Porterfield yaptığı açıklamada, şirketin gençlerin güvenliğine, koruma mekanizmaları geliştirmeye ve ebeveynlere gençlerinin yapay zekayı nasıl kullanacağını yönlendirecek anlamlı araçlar sunmaya bağlı olduğunu ve titiz bağımsız değerlendirmeleri memnuniyetle karşıladığını söyledi.

Ancak OpenAI, Common Sense Media'nın testlerinin genç korumalarının pratikte nasıl davrandığını ve yapay zekanın gençlere nasıl destek olabileceğine dair uzman görüşlerini doğru yansıtmadığını savunuyor. Şirketin temel itirazı yöntemsel: OpenAI'nin metodoloji incelemesi, testlerin büyük bölümünün ebeveyn kontrolleri test hesaplarında tam olarak etkinleşmeden başlayıp bitmiş olabileceğini gösteriyor. OpenAI'ye göre böyle olduysa testler, ebeveyn güvenlik bildirimlerinin tasarlandığı gibi çalışıp çalışmadığını ortaya koyamaz.

Common Sense Media metodolojisinin arkasında duruyor

Siegel, kuruluşun hem test yaklaşımından hem de sonuçlarından yana olduğunu söyledi. The Verge'e göre, Common Sense Media'nın testlere başlamadan önce yeme bozukluğu bildirimleri ve çalışma modu gibi teen modu özelliklerinin tamamen kullanıma sunulduğunu OpenAI ile teyit ettiğini belirtti.

Ebeveyn bildirimleri konusuna gelince, Siegel, OpenAI'nin sistemlerinin yeni bağlanan hesaplarda etkinleşmesinin birkaç saat sürebildiğini yalnızca testlerden sonra açıkladığını kabul etti. Kuruluşun bazı test hesapları bu zaman aralığına denk gelse de, diğerleri çok daha uzun süredir bağlı olmasına rağmen yine de bildirim üretmedi. Siegel'e göre bu yeni bilgi, ebeveyn uyarılarının kriz anlarında güvenilir olmadığı sonucunu değiştirmiyor.

Siegel ayrıca Common Sense Media'nın değerlendirme sonuçlarını, şirkete ürünü iyileştirme fırsatı vermek için iyi niyetle, yayından önce OpenAI ile paylaştığını söyledi. OpenAI'nin metodolojiye gölge düşürmek yerine bulguların özüne odaklanmasını umduğunu ifade etti.

Neden önemli

ChatGPT dünyada en yaygın kullanılan yapay zeka ürünlerinden biri ve teen deneyimi bu ürünü doğrudan ve büyük ölçekte reşit olmayanlara ulaştırıyor. Ebeveyn uyarıları düzensiz şekilde tetikleniyorsa ya da bir hesap bağlandıktan sonra etkinleşmeleri saatler sürüyorsa, gözetimin en çok önem taşıdığı anlar, örneğin kendine zarar vermeyle ilgili sohbetler, hiçbir yetişkinin haberdar olmadan geçip gidebilir.

Bu tartışma aynı zamanda yapay zeka güvenliği iddialarının dışarıdan ne kadar doğrulanmasının zor olduğunu gözler önüne seriyor. Aynı testlere bakan iki taraf — biri deneyimli bir çocuk güvenliği STK'sı tarafından yürütülen ve satıcı tarafından incelenen testler — o testlerin neyi kanıtladığı konusunda tamamen zıt sonuçlara vardı. Üzerinde anlaşılan metodolojiyle bağımsız doğrulama standart hale gelene kadar ebeveynler için pratik çıkarım, duyurulan koruma bariyerlerini kanıtlanmamış saymak ve bir krizi yakalayacaklarını varsaymamaktır.