deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak Hacker News – Front Page (native)

Gerçek bir füze videosu, bir deepfake uzmanını tüm videoların sahte olduğunu varsunmaya itti

IEEE Spectrum'da yayımlanan birinci ağızdan anlatımda Hany Farid, iddia edilen Tomahawk saldırısı videosunun gerçek olduğunu doğrulamak için saatler harcamasını anlatıyor ve içerik üreticilerinin artık görüntülerinin otantik olduğunu kanıtlaması gerektiğini savunuyor.

Gerçek bir füze videosu, bir deepfake uzmanını tüm videoların sahte olduğunu varsunmaya itti

IEEE Spectrum'da yayımlanan birinci ağızdan bir anlatımda, manipüle edilmiş medyayı tespit etmek için hesaplamalı teknikler geliştirmeye otuz yıl harcamış bir araştırmacı olan Hany Farid, dünyanın dört bir yanındaki muhabirlerin kendisiyle bir video hakkında iletişime geçmeye başladığı o Cumartesi sabahını anlatıyor. Bir İranlı haber ajansı, ABD yapımı bir Tomahawk füzesinin bir okulu vurduğuna dair görünen bir görüntü yayınlamıştı; haberlere göre saldırıda 175'ten fazla kişi hayatını kaybetti, bunların çoğu çocuktu; ABD başkanı ve ordusu ise sorumluluğu reddediyordu. Üretken yapay zeka çağında herkes, Farid dahil, görüntünün sahte olabileceğinden şüpheleniyordu.

Kare kare fizik dolu bir sabah

Farid'in ilk tepkisinin şüphecilik olduğunu yazıyor: video kalitesi düşüktü, saldırıdan oldukça sonra ortaya çıkmıştı ve yalnızca doğru haber geçmişi zayıf bir yayın kuruluşu tarafından dağıtılmıştı. Göz önünde bulundurun riskler nedeniyle yine de analiz etti.

Her kareye sayısal olarak eklenen bir füzenin kamera hareketini hesaba katmadan eklendiğinde fiziksel olarak imkânsız bir yol izleyeceğini düşündü; bu yüzden kareleri sabit bir arka plan işaretine göre hizaladı. Yörünge neredeyse doğrusal çıktı. Ardından füzenin görünen boyutunu tahmin etti ve bunun yaklaşık 100 metre mesafeden 6 metrelik bir Tomahawk ile tutarlı olduğunu buldu; bu mesafe, sesin saniyede 343 metre hızla ilerlediği göz önüne alındığında, görünen çarpma ile çarpma sesi arasındaki 0,3 saniyelik boşlukla örtüşüyordu. Saatlerce süren ek analizlerin ardından videoyu otantik judgedı ve muhabirlere öyle söyledi.

O sabahın bir dönüm noktası olduğunu söylüyor. Kaliforniya Üniversitesi, Berkeley'deki meslektaşlarıyla yürüttüğü araştırma, gözlemcilerin artık videolara o kadar şüpheyle yaklaştığını ki görüntünün gerçek olduğuna kendilerini ikna etmekte zorlandıklarını ortaya koydu. Farid aynı durumun kendisi için de geçerli olduğunu fark etti: manipülasyon eserlerinin yokluğu artık hiçbir şeyin kanını sayılmıyordu.

Sahtelik varsayımı ve kaynak desteği

Farid'e göre sonuç şu: Şüphecilerin kanıt yükünü taşıdığı eski varsayım, yani otantiklik varsayımı, tersine dönmeli ve içerik üreticileri içeriklerinin gerçek olduğunu kanıtlamakla sorumlu tutulmalıdır. Bunun meşru üreticiler için adaletsiz olduğunu kabul ediyor ama bunun gerçeği yansıttığını ve çevrimiçi medyanın yeniden güvenilir olabileceği bir geleceğe işaret ettiğini savunuyor.

Onunki gibi adli analizlerin internet ölçeğinde veya hızında çalışmadığını, ancak kaynak sinyallerinin çalışabileceğini belirtiyor. C2PA içerik kimlik bilgilerine dikkat çekiyor; bunlar yakış anında cihazı, zamanı, konumu ve sonraki tüm düzenlemeleri kaydeden kriptografik olarak imzalanmış bir manifest ekleyerek içeriğe veya geçmişine yapılan müdahaleleri makine tarafından tespit edilebilir kılıyor. Ayrıca doğrudan piksellere veya ses örneklerine algılanamayan bir köken sinyali gömen Google'ın SynthID gibi watermark'lara ve ham piksel verisini yakalandığı anda kriptografik olarak imzalayabilen, normal ve düzenlenebilir fotoğrafın yanına bir referans görüntü kaydeden kamerasensörlü Apple'ın en yeni iPhone'larına da değiniyor; böylece herkes ikisini karşılaştırabilir.

Bu sinyallerin saldırıya açık kısmi çözümler olarak sıkça eleştirildiğini kabul eden Farid, bunun amaçlarını gözden kaçırdığını savunuyor: Amaç kötü aktörleri yakalamak değil, iyi aktörlerin kayıtlarının iddia ettikleri şey olduğunu kanıtlamalarına izin vermek. Yeterince meşru üretici bunları benimserse sahteleri dışlayabilir ve modeli aldatıcıları polis gibi takip etmekten dürüst üreticileri donatmaya kaydırabilir.

Deepfake'ler canlı video görüşmelerinde

Aynı güvensizliğin, Farid'in belirttiğine göre, rutin video görüşmelerine de yayıldığını anlatıyor. Eylül 2024'te, Maryland Senatörü Ben Cardin'in, o dönem Dış İlişkiler Komitesi başkanıydı ve Dmytro Kuleba'dan gelmiş gibi görünen bir toplantı talebini kabul etti; Kuleba birkaç hafta önce Ukrayna dışişleri bakanlığı görevinden ayrılmıştı. Cardin, arayan kişinin karakterine aykırı biçimde ABD'nin Ukrayna'ya Rusya'ya uzun menzilli füze atmasına izin verip vermemesi konusunda ısrar etmesi üzerine şüphelendi ve görüşmeyi sonlandırdı. Dışişleri Bakanlığı Kuleba'nın hiç toplantı talep etmediğini doğruladı ve Senato güvenlik ofisi personeli, muhtemelen Rus kaynaklı yabancı rakiplerin benzer sahte toplantılar deneyeceği konusunda uyardı.

Farid'e göre bu tür kimlik taklitleri yalnızca bir yüz değiştirme veya avatar deepfake ile ses dönüştürme gerektiriyor; bu teknoloji modern bir dizüstü bilgisayarda çalışan ticari ürünlerde ve açık kaynak kütüphanelerinde mevcut. Füze videosunun aksine, canlı bir görüşme insan analizine zaman bırakmıyor. Ancak saniyede kabaca 24 karede ikna edici hareket üretmek kestirme yollara zorluyor: basitleştirilmiş yüzler, çevreyle basitleştirilmiş etkileşimler ve ses ile video ya da kareler arası kayma. İnsan gözü bunları kaçırıyor; adli araçlar ise ortaya çıkarabiliyor. Farid ayrıca video görüşmesi yazılımının, Apple'ın bugün sabit fotoğraflar için yaptığı gibi, canlı bir akışın her karesini kriptografik olarak imzalayabileğini ve yazılımın gelen karelerin fiziksel bir kamera sensörü tarafından imzalanıp imzalanmadığını veya aktarım sırasında değiştirilip değiştirilmediğini gerçek zamanlı doğrulayabileğini öneriyor; çünkü yüz değiştirme zorunlu olarak kamera ile uygulama arasında gerçekleşiyor.

Neden önemli

Farid'in anlatısı görsel kanıtın işleyişinde yapısal bir tersine dönüşü belgeliyor. Görünen kitlesel can kaybına yol açan bir saldırının otantik kaydını bir uzmanın kabul etmesi saatler sürdü ve kaydın güvenilirliği hâlâ büyük ölçüde onun analizine dayanıyor; öte yandan uydurmacıklar özgürce dolaşırken gerçek olaylar sahte olarak görmezden gelinebiliyor. Gazeteciler, mahkemeler ve sıradan izleyiciler kayıtları, kaynak bilgisi aksini söyleyene kadar doğrulanmamış saymak zorunda kalıyor. Bu, sorumluluğu cihaz üreticilerine, platformlara ve görüşme yazılımlarına kaydırıyor: C2PA kimlik bilgileri, watermark'lar ve sensör düzeyinde imzalama güvenin pratik altyapısı haline geliyor ve bir videonun gerçek olduğuna dair varsayımı sonunda geri getirebilecek olan, giderek gelişen sahte tespitinden çok güvenilir üreticilerin bu teknolojileri benimsemesi.

  • #deepfakes
  • #misinformation
  • #c2pa
  • #content-credentials
  • #media-forensics