OpenAI, AB kullanıcıları için ChatGPT ve Codex'te textGrain metin filigranını başlatıyor

OpenAI, ChatGPT ve Codex tarafından üretilen metinler için görünmez, makine tarafından okunabilir bir filigranı Avrupa Birliği kullanıcılarıyla başlayarak kullanıma sunmaya başladı. The Verge'ın haberine göre textGrain adı verilen sistem, önümüzdeki haftalarda AB'deki tüm planlardaki uygun kullanıcılara ulaşacak; ancak OpenAI, filigranı lansmanda küresel bir varsayılan hale getirme konusunda bilinçli olarak geri adım atmış durumda.

AI Act'e bağlı bir AB öncelikli yaygınlaştırma

OpenAI, bölgesel yaklaşımı, neyin ardından geleceğine karar vermeden önce gerçek dünyadaki kullanımdan ve geri bildirimden öğrenmenin bir yolu olarak konumlandırıyor. Zamanlama, AB'nin AI Act'i kapsamındaki şeffaflık yükümlülükleriyle bağlantılı. The Verge'ın belirttiğine göre Anthropic, Ağustos ayında benzer bir adım atarak aynı düzenleyici gerekçelerle Google DeepMind'ın SynthID'sine dayalı bir filigran duyurmuştu.

API müşterileri için durum farklı: Hemen başlayarak, dünyanın herhangi bir yerinde seçili modeller için filigranlı çıktıları etkinleştirmeyi tercih edebiliyorlar. OpenAI, önümüzdeki haftalarda iş ortağı hizmetleri üzerinden erişilen model çıktıları için de filigranın kullanıma açılması amacıyla bulut ortaklarıyla çalıştığını söylüyor.

Tespit, yalnızca onaylanmış araştırmacılarla sınırlı kalıyor

Filigranı tespit etmeye yarayan araç lansmanda herkese açık olmayacak. Bunun yerine, onaylanmış araştırmacılar ve uzman kuruluşlar şimdiden erişim için başvurabiliyor; hibeler AB'nin Code of Practice'i kapsamında vaka bazında değerlendirilecek. OpenAI'ya göre dedektör yalnızca bir OpenAI filigranı bulup bulmadığını raporluyor; kullanıcıyı tanımlamıyor, promptları veya konuşmaları ifşa etmiyor.

Şirket, kısıtlamanın gerekçesi olarak filigranların gözden kaçma riskine ve yanlış pozitiflere işaret ediyor ve erken erişimi, tüketici düzeyinde doğrulama yerine metin provenance'ının değerlendirilmesini ve iyileştirilmesini desteklemenin bir yolu olarak konumlandırıyor.

Filigran neyi kanıtlıyor, neyi kanıtlamıyor

OpenAI, textGrain'ın SynthID for text dahil rakip yaklaşımlarla "eşit ya da daha iyi" performans gösterdiğini iddia ediyor ve filigranlı ile filigransız metnin benzer performans gösterdiğini düşündüren benchmark sonuçları yayımladı. Ancak şirket sınırlar hakkında açık konuşuyor. OpenAI, textGrain'ın "güvenilir tespit garantisi vermediğini" belirtiyor; daha genel olarak metin filigranları doğruluğu doğrulayamıyor, bir metnin kime ait olduğunu belirleyemiyor, bir insanın ne kadar katkıda bulunduğunu ölçemiyor ve insan yazarlığını kanıtlayamıyor.

The Verge ayrıca duyurmanın herkes tarafından olumlu karşılanmadığını bildiriyor; ancak özelliğin mekanizması — kullanıcıya yönelik bir rozet yerine model çıktısına gömülü görünmez bir sinyal — çoğu AB kullanıcısının ChatGPT veya Codex'in davranışında bir fark fark etmeyeceği anlamına geliyor.

Neden önemli

Bu, OpenAI'ın provenance sinyallerini doğrudan amiral gemisi tüketici ürünlerine eklediği ilk kez oluyor ve AB'yi, daha sonra dünya genelinde yayılabilecek bir yeteneğin sınama alanı haline getiriyor. Anthropic ve Google'ın aynı düzenleme kapsamında benzer metin filigranı çalışmalarını sürdürmesiyle AI Act, fiilen büyük model sağlayıcıları arasında provenance altyapısını standartlaştırıyor; bu, gönüllü ve tutarsız üçüncü taraf dedektörlerden gömülü, makine tarafından okunabilir sinyallere doğru bir kayma anlamına geliyor.

Ödünleşimler en az bunun kadar önemli. Tespiti onaylanmış araştırmacıların elinde tutarak OpenAI, uzun süredir herkese açık AI dedektörlerini rahatsız eden yanlış pozitif sorunundan kaçınıyor; ancak bu, eğitimciler, yayıncılar ve platformlar için acil pratik değeri de sınırlıyor. OpenAI'ın kendisinin de kabul ettiği gibi, bir filigran yalnızca bir modelin devrede olduğunu gösterebilir; doğruluk, sahiplik veya insan katkısı sorularını çözemez. Düzenleyiciler, araştırmacılar ve kullanıcıların bu kısmi garantiyi nasıl değerlendireceği, filigranlamanın güvenilir bir altyapı mı yoksa yalnızca bir uyum kutusu mı haline geleceğini belirleyecek.