iOS klavyesinin içinde 100.000'den fazla gizli otomatik tamamlama engeli ortaya çıkarıldı

Bir araştırmacı, Apple'ın iOS klavyesinin otomatik tamamlama önerisi olarak sunmadığı 100.000'den fazla kelime ve ifadeden oluşan gizli bir engelleme listesini ortaya çıkardı; listenin tamamını internete yayımlayarak şirketin kullanıcıların yazdıklarını ne kadar sessizce filtrelediğine dair soruları gündeme getirdi.

The Verge'nin, Reuters'ın orijinal haberine dayandırdığı bilgiye göre, araştırmacı Derik Kauffman listeyi iOS'tan çıkardı ve listenin dünyadaki tüm büyük dillerdeki ifadeleri kapsadığını tespit etti.

Filtreleme nasıl çalışıyor

Engeller, bir terimin yazılmasını doğrudan engellemiyor. The Verge'nin açıkladığı gibi, engellenmiş bir ifade yine de harf harf yazılabiliyor — yalnızca tahmini öneri olarak hiç görünmüyor ve kullanıcı kaydırmalı yazarken klavye bu ifadeyi yeniden yazabiliyor. Kauffman'un belgelediği bir örnekte, "left wing conspiracy" ifadesini kaydırarak yazmak "left wrong conspiracy" sonucunu üretti.

Listenin büyük bölümü moderasyon açısından sıradan: hakaretler, müstehcen ifadeler ve seks ile uyuşturucuyla ilgili terimler. Ancak koleksiyonda "illegal immigrant", "dictator Trump", "sleepy Joe" ve "covid was a hoax" gibi siyasi yüklü ifadelerin yanı sıra "Santa isn't real" ve "iMessage isn't working" gibi görece zararsız diziler de yer alıyor.

Kauffman tutarsızlıklara da dikkat çekti. Bazı ifadeler engellenirken ayna görüntüleri engellenmiyor — örneğin "bad girl" bastırılırken "bad boy" olduğu gibi bırakılmış. Kauffman, dillere göre ayrı ayrı dökümleri de içeren listenin tamamını yayımladı.

Liste nasıl bulundu

Kauffman, Reuters'a verdiği bilgiye göre, veriyi bulmasına yardımcı olması için OpenAI'nin Codex'ini ve Anthropic'in Claude Code'unu kullandı; veri iOS'un derinliklerinde gömülü haldeydi. Kendi web sitesinde, ifadelerin ham metni gizleyen bir yapı olan hash tablosu olarak saklandığını ve bunun okunabilir kelimelere geri dönüştürdüğünü anlatıyor. İkinci bir araştırmacı da Reuters'a aynı listeyi sistemden bağımsız olarak çıkardığını söyledi; bu da bulgunun doğruluğunu destekliyor.

Apple'ın konumu

Listeyle ilgili kendisine sorulan soruya Apple, Reuters'a klavyesinin potansiyel olarak uygunsuz veya rahatsız edici önerileri göstermekten kaçınacak şekilde tasarlandığını, ancak iPhone sahiplerinin istedikleri her şeyi yazabileceklerini ya da kendilerine sunulan tahminleri yok sayabileceklerini vurguladı. Şirket, The Verge'nin ek yorum talebine hemen yanıt vermedi.

Neden önemli

Otomatik tamamlama nötr bir kolaylık değil; milyarlarca tuş vuruşunun görünümünü şekillendiriyor ve şu ana kadar iOS önerilerini yöneten liste görünmezdi — hash biçiminde saklanmış, hiçbir politika sayfasında yer almamış ve Apple tarafından hiç açıklanmamıştı. Bunun iki nedenden dolayı önemi var.

Birincisi, liste bariz küfürlerin çok ötesine geçip siyasi alana uzanıyor ve bunu asimetrik bir şekilde yapıyor. Hangi siyasi ifadelerin bastırılmayı hak ettiğine — ve hangi karşılıklarının edilmediğine — dair kararlar, yayımlanmış hiçbir kriter ve düzeltme yolu olmadan, özel olarak alındı.

İkincisi, kaydırmalı yazma davranışı bir öneriyi esirgemekten daha önemli sonuçlar doğuruyor. Kullanıcının yazmak istediğini sessizce değiştirmek, bir öneriyi filtrelemeden girdiyi değiştirmeye geçiyor ve çoğu insan bunun gerçekleştiğini fark etmenin ya da nedenini anlamanın bir yoluna sahip değil.

Olay ayrıca tescilli yazılım çevresindeki güç dengesinde bir değişime işaret ediyor. Bir zamanlar fiilen denetlenemez olan sistemler artık, kazmanın bir kısmını yapan yapay zekâ kodlama asistanlarıyla tersine mühendislik yoluyla çözümlenebiliyor. Kitlesel ürünlere gizli engelleme listeleri gömen şirketler, bu listelerin er ya da geç ortaya çıkacağını — birlikte de "rahatsız edici önerilerden kaçınıyoruz" ile "kaydırmalarınızı sessizce düzenliyoruz" arasındaki uçurumun incelenmesini — beklemeli.