Instagram, yapay zekâyla üretilmiş kişileri gizleyen profillerin erişimini kısıtlıyor

Instagram ne duyurdu

TechCrunch'a göre Instagram, pazartesi günü yapay zekâyla üretilmiş profilleri işaretleme yöntemini köklü biçimde değiştirdiğini açıkladı ve yapay zekâyla üretilmiş kişileri gerçekmiş gibi sunan hesapların erişimini baskılamaya başlayacak. Değişikliğin merkezinde bir yeniden adlandırma var: mevcut "AI creator" etiketi "AI-generated profile" olacak; Instagram bu ifadeyi daha anlaşılır buluyor. Etiketin amacı, bir hesapta yer alan kişinin yapay zekâyla üretildiğini ya da önemli ölçüde yapay zekâyla oluşturulduğunu belirtmek.

Yaptırım tarafı, değişikliğin daha sonuç doğuran yarısı. Yeni politika uyarınca, yapay zekâyla üretilmiş bir kişilik için etiketi kullanmayan içerik üreticileri, içeriklerinin daha az kişiye gösterilmesi riskiyle karşılaşabiliyor. Etiketi doğru şekilde kullanan üreticiler ise profillerinin konusu yapay zekâyla üretilmiş bir kişi olduğu için cezalandırılmayacak; ceza AI kullanımını değil, gizlemeyi hedefliyor.

Etiketin kapsamadığı durumlar

Instagram, günlük yapay zekâ desteğinin etrafına bir sınır çizdi. TechCrunch'a göre etiket, fotoğrafları rötuşlamak, açıklamaları iyileştirmek, grafik üretmek ya da diğer yaratıcı ince ayarları yapmak için AI kullananlar için zorunlu değil. Açıklama, merkezi konusu yapay bir kişi olan hesapları hedefliyor; rutin yapay zekâ destekli düzenlemeleri değil.

Instagram, değişikliğin kısmen kullanıcı geri bildirimlerine yanıt olduğunu söyledi: insanlar tekrar tekrar gerçek insanlara ait gibi görünen profillerle karşılaşıyor, sonra da öne çıkan kişinin tamamen yapay zekâyla üretilmiş olduğunu fark ediyor. Şirket, kullanıcıların bir profilin yapay zekâyla üretilmiş bir kişiyi konu edindiğini ne zaman bilmek istediklerini belirtti.

AI influencer'lar zaten inceleme altındaydı

Politika, sentetik kişiliklerle ilgili artan gerilim ortamında gündeme geldi. TechCrunch, Wired'ın bu yılın başındaki bir araştırmasına dikkat çekiyor: Goose adlı bir eşcinsel buluşma uygulaması, Instagram'da görünüşe göre yapay zekâyla üretilmiş erkek influencer'lardan oluşan bir ağ tarafından tanıtılmıştı. Wired, bu hesapların iki düzineden fazlasını saydı; bazılarının kayıt sağlamak için doğrudan potansiyel kullanıcılara mesaj attığı bildirildi.

Sağlık ve wellness içeriği de benzer alarmlar verdi. The New York Times, temmuz ayında sosyal platformlarda gerçek izleyicilere takviye ürünleri tanıtan ya da sağlık iddialarında bulunan yüzlerce yapay zekâyla üretilmiş doktor, şifacı ve wellness kişiliği bulduğunu haberleştirdi.

Duyuru, farklı bir AI özelliğine ilişkin ayrı bir tartışmanın ardından da geldi. Instagram, kullanıcılar kamuya açık Instagram içeriklerinin açık bir onay olmadan kullanıldığı itirazında bulunduktan sonra, insanların benzerlikleriyle görsel üretmelerine olanak tanıyan bir aracı kaldırdı.

Zamanlama, Meta üzerindeki daha geniş baskıyla da kesişiyor. TechCrunch'un belirttiği gibi Meta, geçen hafta Facebook ve Instagram'ın çocuklar ve gençler üzerindeki etkilerine ilişkin iddialar dolayısıyla ABD eyaletleriyle 18 milyar dolarlık bir uzlaşmaya vardı. Bu anlaşma uyarınca Meta, her iki uygulamada gençler için varsayılan günlük iki saatlik kullanım sınırı, bir "Night Mode" engeli, okul saatlerinde sessize alınan bildirimler ve diğer kısıtlamaları hayata geçirecek.

Neden önemli

Instagram, algoritmik bir yaptırımı — azaltılmış erişimi — doğrudan AI şeffaflığına bağlıyor ve yalnızca etiketlemenin ötesine geçiyor. Bu, şeffaflığı bir öneriden ekonomik bir teşvike dönüştürüyor: beyan edilmemiş bir sentetik kişilik artık yalnızca eksik bir etiket değil, bir dağıtım riski taşıyor. AI influencer ekonomisi açısından bu, uydurma kişileri gerçek gibi gösterme iş modeline somut bir kısıtlama.

Instagram'ın sentetik insanlarla sıradan yapay zekâ destekli düzenleme arasında çizdiği ayrım da tek bir platformun ötesinde önemli. Diğer hizmetlerin kopyalayabileceği, AI araçlarının kendisini değil taklit riskini hedefleyen uygulanabilir bir sınır taslağı çiziyor.

Açık soru ise uygulamada. Etiketsiz AI profillerini ölçekli biçimde tespit etmek teknik olarak zor ve politikanın inandırıcılığı, Instagram'ın kimden — ya da neyi — konu ettiklerini gizleyen hesapları gerçekten yakalayıp yakalayamayacağına bağlı olacak.