Apple, App Store incelemesinden geçmek için kendini gizleyen AI nudify uygulamalarını yasakladı

Apple, App Store geliştirici yönergelerini güncelleyerek AI kullanarak rahatsız edici içerik üreten uygulamaları açıkça yasakladı; buna inceleme sırasında sıradan bir yazılım gibi görünen ve onaydan sonra gerçek yeteneklerini ortaya çıkaran nudify uygulamaları da dahil.

TechCrunch'a göre değişiklikler 19 Ekim'deki duyurunun öncesinde hafta sonu boyunca yapıldı ve yönergeler artık hem AI hem de kullanıcı üretimi içerik konusunda daha güçlü bir dil kullanıyor; geliştiricilerin içine yerleştirmesi beklenen moderasyon önlemlerini tek tek sıralıyor.

Yeni yönergeler neyi gerektiriyor

Kullanıcı üretimi içerik barındıran uygulamalar artık sakıncalı materyali filtrelemek, kullanıcılara rahatsız edici içeriği bildirme imkanı sunmak ve istismar eden hesapları engelleme olanağı tanımak zorunda. Apple ayrıca gizli veya belgelenmemiş özellikleri de yasaklıyor ve soruna konu olan taktiği adıyla anıyor: inceleme sırasında "amacını yanlış tanıtan ve onaydan sonra yalnızca zararlı yeteneklerini — örneğin 'nudification' — açığa çıkaran" uygulamalar; şirket bu manevrayı bait-and-switch olarak nitelendiriyor.

Apple, App Store incelemesine sunılan build'de bulunmayan özelliklerle gelen her uygulamanın kaldırılacağını da ekledi. Bu, onay için temiz bir sürüm sunup uygulama yayına girdikten sonra sunucu tarafından zararlı işlevleri etkinleştiren geliştiricilere doğrudan bir yanıt.

Şirket ayrıca yönergelerinin hukuki bölümünü güçlendirerek insan ticareti veya çocuk istismarını teşvik eden uygulamaların mağazadan men edildiğini bir kez daha vurguladı.

Yaptırımın ölçeği

Apple, geçen yıl inceleme sürecinin kullanıcılara ulaşmasına izin verilmeyen 150.000'den fazla uygulamayı engellediğini ve sahtekarlık ile istismar gerekçesiyle 193.000 geliştirici hesabını kapattığını açıkladı. Güncellenen dil, şirkete nudify uygulamalarını reddetmek veya kaldırmak için genel yanıltıcılık kurallarına dayanmak yerine daha net ve spesifik bir dayanak sağlıyor.

Apple neden şimdi harekete geçiyor

Sıkılaştırma, artan dış baskıların ardından geldi. Temmuz ayında San Francisco Şehir Avukatı David Chiu, Apple ve Google'a mağazalarındaki nudification uygulamalarını temizleme ve silme talimatı verdi ve iki şirketi mağaza ücretleri üzerinden bu uygulamalardan gelir elde etmekle suçladı. Yılın daha başında, Nisan ayında, Tech Transparency Project'in bir raporu, her iki şirketin mağazasında birden fazla nudify uygulaması barındırdığını, bazılarının ise küçükler için uygun olduğunu ima eden yaş derecelendirmeleri taşıdığını ortaya koydu.

San Francisco'dan aynı talimatı alan Google'ın şu ana kadar benzer bir yönerge değişikliği yaptığı bildirilmedi.

Neden önemli

Bu, ilkelere dair belirsiz bir açıklama değil, geliştiriciler için doğrudan sonuçları olan somut bir politika değişikliği. AI üretimi veya kullanıcı üretimi içerik içeren her uygulama artık ilk günden itibaren filtreleme, bildirme ve engelleme işlevleriyle gelmek zorunda ve onaydan sonra özellik açarken yakalanan geliştirici kaldırma riskiyle karşı karşıya.

Bu aynı zamanda düzenleyici ve itibar baskısının platform kurallarına ne kadar hızlı dönüştüğünün bir sinyali. Bir şehir avukatının talebi ve bir sivil toplum raporu bu değişikliğe aylar önceden öncülük etti ve Apple, istismar kalıbını yönergelerinde açıkça adlandırarak yanıt verdi. Google'ın benzer bir dille takip edip etmeyeceği, bunun uygulama mağazaları için temel bir beklenti haline gelip gelmeyeceğini gösterecek.

Daha geniş çerçevede, rıza olmadan samimi görüntüler üreten AI araçları yaygın biçimde belgelenmiş bir zarar haline geldi ve bu adım, bu uygulamaları dağıtan ve üzerlerinden ücret toplayan kapı bekçilerine sorumluluk yüklüyor. Bait-and-switch'i adıyla anılan, yasak bir taktik haline getirmek, bu tür uygulamaların kullanıcılara ulaşmak için kullandığı ana yollardan birini daraltıyor.