İngiltere'de partilerarası öneri, ülkede satılan tüm akıllı telefonlara CSAM tespit yazılımı zorunlu kılınmasını öngörüyor

Öneri

The Observer'ın haberine göre, Avam Kamarası üyeleri ve lordlardan oluşan partilerarası bir grup, teknoloji şirketlerinin İngiltere'de satılan her akıllı telefon ve tablete tespit yazılımı yüklemesini gerektirecek bir planı parlamentoya sunmaya hazırlanıyor. Yazılım, yapay zekâyla üretilmiş içerikler de dahil olmak üzere çocuk cinsel istismarı görüntülerini ve videolarını otomatik olarak bulanıklaştıracak, bu tür içeriğin cihazda oluşturulmasını engelleyecek ve istismarın canlı yayınlanmasını imkânsız hale getirecek. Piyasada dolaşımda olan telefonlar ve tabletler de zorunlu bir yazılım güncellemesiyle aynı kurallara tabi tutulabilecek.

Andy Burnham gazeteye, korumaların "cihaza yerleşik olarak sunulacağını ve varsayılan olarak açık olacağını" söyledi.

Kimin arkasında

Kampanyayı Lordlar Kamarası'nda John Nash yürütüyor; Nash, Muhafazakâr Parti lordu ve eski eğitim bakanı olup daha önce İngiltere'nin 16 yaş altılarına sosyal medya yasağını savunmuştu. Avam Kamarası'ndaki girişimin öncülüğünü ise, hükümetin çocukların telefonlarındaki çıplaklık içeriklerini engellemede yavaş davrandığını düşünerek istifa eden İşçi Partili eski koruma bakanı Jess Phillips üstlendi.

Nash, The Observer'a, bu tür materyal üreten "iğrenç bir küresel endüstri" bulunduğunu ve İngiltere'nin bu endüstrinin en büyük tüketicilerinden biri olduğunu, bu nedenle ülkenin harekete geçme sorumluluğu taşıdığını söyledi. "Çocuk telefonlarındaki görüntüler için bunu yapmak mümkünse, tüm telefonlardaki çocuk cinsel istismarı görüntüleri için de mümkündür" dedi ve şunu ekledi: "Açıkçası, bunlar trilyon dolarlık şirketler."

Yasalaşma yolu

Hükümet, Apple ve Google'ı çocukların cihazlarında çıplak görüntü çekmek veya paylaşmakten alıkoymayı zorunlu kılacak yasa tasarısı hazırlamayı zaten taahhüt etmiş durumda. Eylül ayında Kültür Bakanı Lisa Nandy, büyük teknoloji şirketlerinin "çocukları en büyük zararlardan bazılarından korumakta başarısız olduğunu" ve "tüm ekosistemde değişiklikler" sağlamaya kararlı olduğunu söylemişti. Bir hükümet sözcüsü planları, yeni polis yetkileriyle birlikte "dünyadaki en güçlü çevrimiçi güvenlik yasaları" çerçevesinde "dünyada ilk" niteliğinde bir yasallaştırma olarak nitelendirdi.

İki tarafın konumları arasında önemli bir fark var: hükümetin taahhüdü çocukların cihazlarını hedeflerken, yeni öneri tespiti ülkedeki her telefona genişletiyor. Bakanlar yasama adımı atmazsa, Nash'in bir değişiklik önergesi sunması bekleniyor; önerge muhtemelen çok sayıda siber güvenlik önlemi içermesi beklenen ulusal güvenlik tasarısına eklenecek. Nash, önergeyi Lordlar Kamarası'nda geçireceğinden emin olduğunu söylüyor; lordlar daha önce 16 yaş altı sosyal medya yasağını ezici çoğunlukla onaylamıştı.

Teknoloji ve deliller

Destekçiler, gereken araçların zaten mevcut olduğunu savunuyor. Phillips, bu tür görüntüleri bulanıklaştırmaya veya engellemeye capable yazılımın bugün mevcut olduğunu söyleyerek hükümetin bununla neler daha başarabileceğine bakması çağrısında bulundu. Sekiz yıl boyunca Ulusal Polis Şefleri Konseyi'nin çocuk koruma çalışmalarını yürüten eski Norfolk Başpolis Şefi Simon Bailey, bu tür materyali "belirli bir güven düzeyiyle" tespit edebilen teknolojinin mevcut olduğunu söyledi.

The Observer ayrıca Internet Watch Foundation'ın rakamlarına da yer veriyor: vakıf geçen yıl 312.000'den fazla çevrimiçi çocuk cinsel istismarı görüntüsünü kaldırdı; bu 2024'e göre yüzde 7'lik bir artış. Vakıf ayrıca 2024'te yalnızca 13 iken 3.440 adet yapay zekâyla üretilmiş çocuk cinsel istismarı videosu tespit etti. Bu hafta yayımlanması beklenen, teknoloji, hukuk uygulama, siber güvenlik ve çocuk koruma uzmanları tarafından kaleme alınan bir bildiri, görüntüler görüntülenmeden veya paylaşılmadan önce şüpheli istismarı cihazlarda tespit etmek ve engellemek için yapay zekâ araçları kullanılarak önleme doğru bir "paradigma değişimi" öneriyor. Bildiriye katkı verenler arasında Interpol'ün çocuklara karşı suçlar birim başkanı Mark Bevan, Internet Watch Foundation'dan Dan Sexton ve Avustralya Kriminoloji Enstitüsü'nden Sarah Napier yer alıyor.

The Observer'ın anketi güçlü bir halk desteğine işaret ediyor. Katılımcıların yalnızca yüzde 6'sı teknoloji şirketlerinin bu tür materyali tespit etme ve kaldırma konusunda yeterli şey yaptığına dair çok güven duyduğunu belirtti; engelleme teknolojisinin kısa bir tanıtımından sonra katılımcıların yüzde 80'i bunun kendi akıllı telefonuna veya tabletine kurulmasını destekledi, yüzde 5'i karşı çıktı; İşçi ve Muhafazakâr seçmenlerin ikisinde de yaklaşık yüzde 90'ı lehte görüş bildirdi.

Neden önemli

Öneri, içerik denetimini platformlardan ve sunuculardan alıp doğrudan işletim sisteminin içine taşıyor. Görüntülerin ve videoların oluşturulmasından, görüntülenmesinden veya yayınlanmasından önce incelemek zorunda olan bir yazılım cihaz üzerinde çalışır ve kullanıcıların gördüğü her şeyi sürekli olarak sınıflandırır; buna, yalnızca uç noktalarda okunabilen ve hiçbir zaman bir şirket sunucusunda okunamayan uçtan uca şifreli hizmetlerle gönderilen içerikler de dahildir. Bu nedenle tespit aktarım sırasında gerçekleşemez; telefonun içinde gerçekleşmek zorundadır — ki bu, şifrecilerin ve güvenlik mühendislerinin geçmişte client-side scanning'e itiraz ettikleri tam noktadır; tek bir içerik kategorisini incelemek için kurulan altyapının başka amaçlarla kullanılabileceğini ve şifrelemenin herkes için güvencelerini zayıflattığını savunuyorlardı.

The Observer'ın haberi, yazılımın şifreli hizmetlerle nasıl bir arada var olacağına değinmiyor; kampanyacılar ise zorunluluğu dar biçimde, zaten bulundurulması yasa dışı olan içerik etrafında çerçeveliyor. Ancak bir ülkede satılan her cihaza sınıflandırma yazılımı yüklenmesini ve bunun güncellemelerle eski telefonlara dayatılmasını öngören yasal bir zorunluluk, hiçbir hükümetin tüketici donanımına dayattığı en kapsamlı teknik zorunluluklar arasında yer alacaktı. Apple, Google ve daha geniş güvenlik topluluğunun vereceği tepki, İngiltere'nin cihaz üzeri tespitin ilk büyük ölçekli testi haline gelip gelmeyeceğini belirleyecek.