Apple App Store kuralları artık yapay zekâ 'nudify' uygulamalarını ve rıza dışı görüntüleri açıkça yasaklıyor

Apple, App Store kurallarını yeniden yazarak insanların rızası olmadan cinsel görüntüler üreten yapay zekâ destekli "nudify" uygulamalarını açıkça yasakladı. The Verge'ın haberine göre güncellemeler cuma günü duyuruldu ve uyum sağlamamanın belirtilen yaptırımı App Store'dan çıkarılmak olmak üzere, bu tür içerikleri aktif olarak denetleme sorumluluğu geliştiricilere yüklendi.

Yeni kurallar ne gerektiriyor

Revize edilen koşullara göre geliştiriciler, içerik denetimi yükümlülüklerinin bir parçası olarak rıza dışı cinsel görüntüleri "proaktif biçimde önlemek ve kaldırmak" zorunda. The Verge'ın aktardığına göre "yeterli koruma önlemlerini uygulamayan" veya kendilerine bildirildikten sonra ihlalleri düzeltmeyen geliştiriciler App Store'dan çıkarılabilecek.

Apple ayrıca "oltalama" (bait-and-switch) uygulamalarına ilişkin kuralları da sıkılaştırdı — bunlar, "çıplaklaştırma" (nudification) dahil olmak üzere özellikler ekleyen veya değiştiren, ama bunu yalnızca App Review sürecini geçtikten sonra yapan uygulamalar. Bu açıklama, uygulamanın zararsız görünerek sunulup onaylandıktan sonra sakıncalı işlevselliğe dönüştürülmesi şeklindeki bir kaçınma taktiğine yanıt niteliğinde.

Güncellenen kurallar ayrıca "insan ticareti veya çocuk istismarına aracılık eden" tüm uygulamaların App Store'dan kaldırılacağını ve "alternatif dağıtımdan da engelleneceğini" belirtiyor — bu ifade, kaldırma işleminin aynı uygulamanın diğer dağıtım kanalları üzerinden sunulmasıyla aşılamayacağı anlamına geliyor.

Değişimin öncesindeki baskı

The Verge, bu değişikliklerin Apple'a yönelik aylarca süren eleştirilerin ardından geldiğini belirtiyor. Bu yılın başlarında X kullanıcıları, Grok chatbot'ını kullanarak reşit olmayanlar dahil rıza dışı, cinselleştirilmiş deepfake'ler üretti. Apple bu olay nedeniyle X'i veya Grok'u App Store'dan kaldırmadı, ancak ABD senatörlerine Grok'u kaldırmakla tehdit ettiğini söyledi.

Baskı kamusal alanda da yaşandı. Haziran ayındaki WWDC konferansında göstericiler şirketten "Grok'u, X'i ve tüm nudify teknolojisini App Store'dan kaldırmasını" talep etti. Temmuz'da San Francisco şehir avukatı Apple'dan 13 nudify uygulamasını kaldırmasını istedi ve Apple buna uyduğunu açıkladı.

Neden önemli

Politika değişikliği sorumluluğu kaynağa taşıyor. Zararlı görüntüler zaten yayıldıktan sonra şikayetlere tepki vermek yerine, üretken yapay zekâ veya kullanıcı üretimi içerik içeren uygulamaların geliştiricileri artık rıza dışı mahrem görüntüleri önlemek için açık ve uygulanabilir bir yükümlülüğe sahip — ve Apple bunu başaramamanın sonucunu mağazadan kaldırılma olarak tanımladı.

Değişiklikler ayrıca iki pratik boşluğu kapatıyor: nudify özelliklerini onaya kadar gizleyen uygulamalar ve yasaklandıktan sonra başka kanallardan yeniden ortaya çıkabilecek uygulamalar. Bu görüntülerin potansiyel mağdurları, özellikle reşit olmayanlar için, yaptırımları tanımlanmış daha net kurallar anlamlı bir adım.

Çözülmemiş olan soru ise Apple'ın bu kuralları büyük, genel amaçlı platformlara nasıl uygulayacağı. Bu politikayı tetikleyen Grok deepfake dalgası özel bir nudify uygulamasından değil, ana akım bir sosyal medya uygulamasından gelmişti ve Apple o dönemde onu kaldırmayı reddetti. Yeni kurallar kağıt üzerinde daha katı bir standart belirliyor; Apple'ın bunu büyük platformlara, küçük geliştiricilere uyguladığı kadar sert uygulayıp uygulamayacağı politikanın gerçek etkisini belirleyecek.