OpenAI, AI Act kurallarına uymak için ChatGPT ve Codex metinlerini AB'de filigranlayacak

Neler oluyor

TechCrunch'ın haberine göre OpenAI, Avrupa Birliği'ndeki kullanıcılar için ChatGPT ve Codex tarafından üretilen metinlere görünmez bir filigran gömecek. Pazartesi günü şirket blogunda duyurulan bu değişiklik, OpenAI'ı 2 Ağustos'ta yürürlüğe giren ve yapay zekâ tarafından üretilen içeriğin başka sistemlerin algılayabileceği bir şekilde işaretlenmesini gerektiren AB AI Act'in şeffaflık hükümleriyle uyumlu hale getirmeyi amaçlıyor.

Yaygınlaştırma önümüzdeki haftalarda gerçekleşecek ve tüm planlardaki uygun ChatGPT ve Codex kullanıcıları için geçerli olacak, ancak yalnızca AB içinde. OpenAI'nin API'sini kullanan geliştiriciler, seçili modeller için filigranlamayı dünyanın her yerinde hemen itibaren etkinleştirebilir; ancak bu özellik varsayılan olarak kapalı. TechCrunch, OpenAI'nin metin filigranlamasını lansmanda küresel varsayılan haline getirmediğini belirtiyor.

Filigran nasıl çalışıyor

Filigran görünür bir simge veya bir metadata etiketi değil. Şirkete göre, metin üretilirken modelin kelime seçimlerini hafifçe yönlendirerek çalışıyor ve insan okuyucuların algılayamayacağı ama bir dedektörün tanımlayabileceği istatistiksel bir örüntü oluşturuyor. Sinyal ifadelerin kendisinde yer aldığı için kopyala-yapıştır işlemlerinden etkilenmiyor ve metinle birlikte hareket ediyor. OpenAI, filigranın bireysel kullanıcıları tanımlamadığını ve testlerin etkinleştirildiğinde model performansında anlamlı bir değişiklik göstermediğini söylüyor.

Duyurunun yanı sıra OpenAI, Pennsylvania Üniversitesi ve Yale'deki araştırmacılarla birlikte yazdığı, textGrain adı verilen yöntemle ilgili teknik bir rapor yayımladı. Rapor, gizli bir anahtar kullanarak bir sonraki kelime tahminlerini yönlendirmeyi — bir metin boyunca biriken, bir dedektörün yalnızca metin ve anahtarı kullanarak makine tarafından yazılan metni ayırt etmesini sağlayan küçük dürtmeleri — açıklıyor.

Düzenleme altında kırılgan

Filigran değişikliğe karşı korumalı değil. OpenAI'nin kendi testlerinde, kelimelerin yaklaşık %10'unun eş anlamlılarıyla değiştirilmesi algılama oranlarını yaklaşık %92'den %66'ya düşürdü. Şirket ayrıca kısa pasajların, matematik cevaplarının ve çevrilmiş metinlerin güvenilir şekilde algılamanın daha zor olduğunu kabul etti.

Bu sınırlamalar, dedektöre başlangıçta erişimin onaylı araştırmacılar ve uzman kuruluşlarla sınırlı olmasını açıklıyor; OpenAI, bunların güvenilirliğini ve sorumlu kullanımlarını değerlendirmeye yardımcı olabileceğini söylüyor. Şirket ayrıca filigranın olmamasının insan tarafından yazıldığını kanıtlamadığı konusunda da uyardı: metin çok kısa olabilir, ağır şekilde düzenlenmiş olabilir ya da başka bir sağlayıcının modeli tarafından üretilmiş olabilir. OpenAI, filigranların sistemlerinden birinin bir pasajı ürettiğini veya ona katkıda bulunduğunu gösterebileceğini, ancak ne kadar insan yargısı, düzenleme veya yaratıcılık katıldığını gösteremeyeceğini belirtti.

Sektör bağlamı

Bu adım, iki ay önce Anthropic'in Claude tarafından üretilen metinleri filigranlayacağını duyurmasının ardından geldi; Anthropic bu önlemi dünya genelinde uyguluyor. Bu karar, talimatları, bağlamı ve kararları kendilerinin verdiğini, modelin yalnızca araç olduğunu savunan bazı kullanıcıların tepkisine yol açtı.

The Wall Street Journal, 2024'te OpenAI'nin daha önce bir metin filigranlama sistemi geliştirdiğini ancak kullanıcıların filigranlamayan rakiplere geçme endişeleri de dahil olmak üzere çeşitli nedenlerle yayımlamaktan vazgeçtiğini bildirdi. TechCrunch ayrıca Anthropic, Google, Meta, Microsoft ve OpenAI'nin, yapay zekâ tarafından üretilen içerikle ilgili AB'nin uygulama kodunu takip etmeyi taahhüt eden şirketler arasında olduğunu vurguluyor.

Neden önemli

Bu, büyük bir model sağlayıcısı tarafından gerçekleştirilen ilk büyük ölçekli metin filigranlama uygulamalarından biri ve AI Act'in şeffaflık gerekliliklerinin pratik bir testi olarak hizmet ediyor. OpenAI'nin kendisinin bildirdiği sınırlamalar — eş anlamlı kelime değişimine karşı kırılganlık ve kısa, matematiksel veya çevrilmiş metinlerde zayıf algılama — filigranlamayla kaynak gösterimin henüz kesinleşmiş bir bilim olmadığını ortaya koyuyor; dedektör erişiminin kısıtlanması kararı da şirketin haksız suçlamalar ve kötüye kullanım konusundaki ihtiyatını gösteriyor. AB dışındaki geliştiriciler için varsayılan olarak kapalı API bayrağı, filigranlamanın şimdilik bir zorunluluk değil tercih anlamına geliyor; ancak yön net: içerik kaynağı düzenleyici bir beklenti haline geliyor ve yapay zekâ destekli metni gerçekte kimin yazdığı tartışması bu işaretler yayıldıkça büyümeye devam edecek.