deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak The Verge

OpenAI, ihbar hattı raporlarının fırladığı dönemde yapay zekâ üretimi işaretli ücretsiz bir CSAM sınıflandırıcısı yayımladı

OpenAI, yapay zekâ üretimi görüntüler dahil çocuk cinsel istismar materyalini tespit eden ücretsiz bir sınıflandırıcı yayımladı ve sentetik raporların NCMEC'in CyberTipline'ını zorlamasıyla birlikte yanlış pozitifleri yüzde 48 azalttığını söylüyor.

OpenAI, ihbar hattı raporlarının fırladığı dönemde yapay zekâ üretimi işaretli ücretsiz bir CSAM sınıflandırıcısı yayımladı

OpenAI'nin yeni sınıflandırıcısı yapay zekâ üretimi istismar görüntülerini hedefliyor

OpenAI, çocuk cinsel istismarı soruşturmacılarına zararlı materyali gürültüden ayırmada yardımcı olmayı amaçlayan, bir görüntünün yapay zekâ ile üretilip üretilmediğini belirlemeyi de içeren bir sınıflandırıcı geliştirdi. The Verge'e göre şirket, aracı Washington DC'de pazartesi günü düzenlenen bir basın brifinginde duyurdu ve denetimden geçmiş kuruluşlara ücretsiz erişim veriyor, bu içerik sınıfını tespit etmeye yönelik geliştiriciler için ek rehberlik yayımlıyor ve kolluk kuvvetlerine yapay zekânın soruştirmalara nasıl yardımcı olabileceği konusunda eğitim veriyor.

Sentetik raporlar ihbar hatlarını zorluyor

Bunun arka planında, insan incelemesi için tasarlanmış sistemlere ulaşan yapay zekâ üretimi çocuk cinsel içerik görüntülerindeki keskin artış yer alıyor. Çocuk cinsel istismar materyali raporlarını toplayıp önceliklendiren National Center for Missing and Exploited Children'ın CyberTipline'ı, 2025'te üretici yapay zekâ ile ilgili 400.000 rapor aldı; bu rakam 2024'te kaydedilen 67.000'in neredeyse altı katı. Araştırmacılar, bu akışın NCMEC'in iş yükünü yönetilemez hale getirebileceği ve uydurma görüntülerin selinin gerçek bir çocuğun aktif olarak zarar görüp görmediğini anlaşılmasını zorlaştırdığı konusunda uyarıda bulundu.

AG Alliance'ın Yapay Zekâ Görev Gücü'nü eş başkanlığını yürüten Kuzey Karolina Başsavcısı Jeff Jackson, raporlardaki artışı OpenAI'nin etkinliğinde "patlayıcı" olarak nitelendirdi ve bu durum sürerse "görevimizde başarısız olacağımız anlamına geleceği" uyarısında bulundu.

Aracın iddia ettikleri

The Verge'e göre OpenAI, sınıflandırıcının önceki yaklaşımlara kıyasla yüzde 48 daha az görüntüyü işaretlediğini, işaretlediği görüntülerin ise istismar materyali içerme olasılığının iki katı olduğunu söylüyor; bu azalma daha az yanlış pozitiften kaynaklanıyor. Araç, açık kaynak modeller ve sözde nudifying uygulamalar dahil çeşitli araçlarla üretilmiş istismar içerikli yapay zekâ görüntülerini yakalamak üzere tasarlandı.

OpenAI'nin çocuk güvenliği kamu politikası başkanı John Buckley, bunun yapay zekâ üretimi materyal için ayrı bir işarete sahip, geniş çapta erişilebilen ilk CSAM sınıflandırıcısı olduğunu söyledi. Endüstrinin kurgusal çocukların görüntülerini gerçek olanlardan ayırması gerektiğini savundu, çünkü bu ayrım raporların kolluk kuvvetleri önceliklendirmesinden geçiş biçiminin merkezinde yer alıyor. Buckley ayrıca sentetik materyali zararsız olarak görmeye karşı uyararak, bunun suç işlemeyle ilgili sosyal normları aşındırabildiğini ve sıklıkla gerçek çocukların görüntüleriyle birlikte bulunduğunu belirtti.

ChatGPT daha katı yaptırımlar ekliyor

OpenAI'nin kendi görüntü üreticisi zaten CSAM taleplerini reddediyor. Artık bunu üretmeye çalışan kullanıcılara, yardım aramaya teşvik eden, uzman rehberliğiyle geliştirilmiş yeni bir uyarı gösterilecek. İlk ihlal, hesabın kalıcı olarak kapatılabileceği uyarısıyla birlikte ChatGPT'den 24 saatlik askıya alma ve destek kaynaklarıyla sonuçlanıyor. Buckley, duraklamanın CSAM arayanlarla CSAM üretenlere tepki vermede uzman tavsiyesini ve uluslararası kanıtları yansıttığını, amacın zararlı davranışı kesintiye uğratmak ve insanları uzman yardıma yönlendirmek olduğunu söyledi. OpenAI, tüm CSAM örneklerini NCMEC'e bildirdiğini belirtiyor.

Siyasi baskı altında bir yayım

Bu lansman, çocuk güvenliği konusunda yapay zekâ şirketlerine yönelik yoğunlaşan inceleme ortasında geldi. Take It Down Act artık sosyal medya platformlarının gerçek veya yapay zekâ üretimi rızasız mahrem görüntüleri 48 saat içinde kaldırmasını zorunlu kılıyor ve The Verge, yeni seçilen Kongre'nin yapay zekâ firmalarına karşı daha güçlü adımlar atabileceğini bildiriyor; bunlara, Grok sohbet botu bu yılın başlarında ölçekli biçimde rızasız çıplak görüntüler üreten SpaceXSI de dahil. Geçen ay sekiz eyalet, ChatGPT'nin yasadışı madde kullanımını ve intiharı teşvik ettiği iddiaları dahil, çocuklara yönelik ayrı bir dizi sözde zarar nedeniyle OpenAI'ye dava açtı. ABD hükümeti, hem yapay zekâ üretimi hem de yapay zekâ üretimi olmayan CSAM'nin yasadışı olduğunu açıkladı ve 48 eyaletin cinsel açıdan açık yapay zekâ deepfake'lerini ele alan yasaları var.

Jackson, başsavcıların çoğunlukla zarar meydana geldikten sonra harekete geçtiğini ve bunu önlemek için bir teknoloji şirketiyle ortaklık kurmanın alışılmadık olduğunu belirterek bu düzenlemeyi "hâlâ temelde bir deney" olarak nitelendirdi.

Neden önemli

Sentetik CSAM raporları, insan inceleme kapasitesinden çok daha hızlı büyüyor ve en ciddi risk, aktif tehlikede olan gerçek çocuklarla ilgili vakaların önceliklendirme kuyruklarında gömülmesi. Yanlış pozitifleri azaltırken yapay zekâ üretimi görüntüleri gerçek olanlardan ayıran bir sınıflandırıcı bu darboğaza doğrudan saldırıyor ve denetimden geçmiş kuruluşlara ücretsiz erişim, benimseme engelini düşürüyor. Bu yayım ayrıca OpenAI için, çocuk güvenliği davalarında sanık konumundan soruşturmacılar için güvenlik altyapısı tedarikçisi konumuna bir konum değişikliğine işaret ediyor. Performans rakamları OpenAI'ye ait ve bağımsız olarak doğrulanmış değil; Jackson bile bu iş birliğini deneysel olarak çerçeveliyor. Aracın NCMEC'in iş yükünü ölçülebilir biçimde azaltıp azaltmadığı asıl test olacak.

  • #openai
  • #ai-safety
  • #content-moderation
  • #deepfakes
  • #child-safety
  • #policy

İlgili yazılar