Instagram'un yapay zekâ etiketleri gerçek fotoğrafları işaretlerken, doğrulanmış yapay zekâ görüntüleri etiketsiz kalıyor

Etiketler iki yönde de isabet edemiyor

The Verge'in haberine göre Instagram'ın izleyicilerin sentetik medyayı bir bakışta tanımasını sağlamak amacıyla görünen "Yapay Zekâ İçeriği" etiketleri, aynı anda iki zıt şekilde başarısız oluyor. Kullanıcılar, etiketin hiçbir zaman üretken yapay zekâ ile oluşturulmamış veya düzenlenmemiş fotoğraflara otomatik olarak uygulandığını, buna karşılık makine tarafından üretilen görüntülerin hiçbir etiket olmadan paylaşıldığını bildiriyor.

2024'ün tekrarı

Bu ilk kez olmuyor. Etiketlemenin başlatılmasından birkaç ay sonra, 2024'te "Yapay Zekâ Tarafından Yapıldı" etiketi, Adobe'nin üretken araçlarıyla rötuşlanmış fotoğrafları yakaladı; düzenlemeler o kadar küçüktü ki fotoğraf özünde değişmemişti. Meta o dönemde etiketlemeyi "bir görüntüde kullanılan yapay zekâ miktarını" yansıtacak şekilde ayarlayacağını söyledi. Şubat 2024'te görüntüleri, üretken yapay zekânın makul bir güvenle kullanıldığını gösterebilen IPTC ve C2PA metadata'sı için tarayacağını duyurmuştu, ancak şirket gerçek yöntemleri konusunda belirsiz kaldı ve The Verge'in açıklama talebine yanıt vermedi.

Canva bağlantısı

Son yanlış pozitiflerin çoğu Canva'nın Background Remover aracıyla ilgili. Bir Threads kullanıcısı The Verge'e etiketin "bg remover işin içinde her seferinde" ortaya çıktığını söylerken, başka bir kullanıcı "ufak bir lekeyi" kaldırmanın fotoğrafın tamamının işaretlenmesine yol açtığını belirtti. İçerik stratejisti Jess Bruno sorunu Canva'ya iletti ve platformun bazı yardımcı yapay zekâ araçlarının "üretken olarak etiketlendiği", artık ise doğru etiketlendiği yanıtını aldı. Canva bir yorum talebine yanıt vermedi.

Düzeltme tamamlanmış olmayabilir. The Verge, Canva'nın iddia edilen çözümünden sonra bile Threads kullanıcılarının Background Remover düzenlemelerinde etiketi görmeye devam ettiğini, diğerlerinin ise düzeltmeden önce düzenlenen görüntülerin hiç etiketlenmediğini ve aracın Meta'nın algıladığını iddia ettiği C2PA metadata'sını uygulamadığını ortaya koyduğunu bildiriyor.

Arka plan kaldırma gerçekten makine öğrenimine dayanıyor, ancak bu, Photoshop'un on yılı aşkın süredir seçim ve nesne kaldırma araçlarında sunduğu yardımcı türde bir özellik — aldatıcı görüntülerle ilişkilendirilen üretken metinden görüntüye sistemlerden değil.

Görünür bir açıklaması olmayan vakalar

Bazı işaretlerin hiçbir net nedeni yok. The Verge, Meta'nın "zehirlenmiş" — üzerinde eğitilen yapay zekâ modellerini bozmak için ince ayarlarla değiştirilmiş — bir görüntüyü işaretlediği, aynı içeriğin dokunulmamış sürümünü ise olduğu gibi bıraktığı bir vakayı anlatıyor.

Şarkıcı Halsey'nin kurduğu kozmetik şirketi About Face'in son fotoğrafları da otomatik olarak işaretlendi. Markanın sosyal medya yöneticisi, fotoğrafların bir iPhone'da çekildiğini ve Fotoğraflar uygulamasında hafifçe düzenlendiğini, yapay zekâ bulunmadığını ve markanın içeriğini gerçek sanatçıların ürettiğini herkese açık biçimde yanıtladı. Üretken metadata ekleyen az sayıdaki Apple aracı — Apple Intelligence kullanan ve Google'ın SynthID filigranını gömen Spatial Reframing, Extend ve iOS 27'deki güncellenmiş Clean Up — görünüşe göre tetikleyici de değildi: The Verge, işaretli görüntüleri Google'ın Gemini tabanlı doğrulamasıyla kontrol etti ve hiçbir SynthID bulamadı.

Testler tutarlı bir mantık bulamıyor

The Verge'den Jess Weatherbed'ın anlattığı uygulamalı testlerde, Canva'nın Background Remover'ı, Photoshop'un arka plan silme aracı, Adobe Firefly, Google'ın Nano Banana modeli ve iOS Apple Intelligence özellikleriyle düzenlenen görüntülerin hiçbiri Instagram'da etiketlenmedi — birkaçında doğrulanmış C2PA ve SynthID sinyalleri olmasına rağmen. Etiketin tek güvenilir tetikleyicisi, Meta'nın kendi yapay zekâ uygulamasında düzenlenen veya tamamen üretilen içerikti.

En az bilgiyle oluşturulan ve görüntüleri hızlı ardışıkla paylaşan — bilerek bir yapay zekâ çiftliği gibi davranan — yepyeni bir hesap da görüntü etiketi almadı ve yapay zekâ tarafından üretilmiş bir profil olarak işaretlenmedi; üstelik Meta, bir hafta önce yapay zekâ hesaplarına yönelik sıkılaştırma kampanyasını herkese açık biçimde duyurmuştu. Paylaşımlar neredeyse iki hafta boyunca yayında ve herkese açık kaldı.

Neden önemli

Kaynak etiketlemesi yalnızca insanlar ona inandığında işe yarar. Yanlış pozitifler hiçbir yanlış yapmamış sıradan fotoğrafçıları ve markaları cezalandırır ve dürüst içerik üreticilerini gündelik düzenleme araçlarından uzaklaştırma riski taşır. Yanlış negatifler ise gerçekten aldatıcı sentetik medyanın örtük bir özgünlük damgasıyla dolaşmasına izin verir; çünkü etiketin yokluğu bir sağlıklı raporu gibi okunur. Meta, kötü aktörlerin sistemi istismar etmesini engellemek için tespit yöntemlerini belirsiz tutuyor olabilir, ancak etiketlerin ardında ayırt edilebilir bir örüntü olmadığından kullanıcılar, gerçek işler hakkında şüphe üreten ama yakalamak için var olduğu sentetik içeriği kaçıran bir sinyalle baş başa kalıyor. The Verge'in kendi testi, muhabirin artık etiketlerin kendisine bile güvenemeyeceği sonucuyla bitti — bu da bir etiketleme sisteminin var olma amacını tam olarak ortadan kaldıran sonuç.