Bir yapay zeka ajanının beş çevre biriminin analizinde devre dışı bırakılabilen webcam LED'i ve gizli bir mikrofon kabuğu bulundu

Giriş

23 Ağustos'ta schlap.com'da yayımlanan ve Hacker News ana sayfasına taşınan, iki haftalık bir akşam projesi, yapay zeka ajanlarının pratik donanım tersine mühendisliğini ne kadar ileri taşıdığını gösteriyor. Yazar, Claude Opus 5'u masadaki beş çevre birimine — bir webcam, bir monitör, bir mikrofon, bir video capture dongle ve bir key light — yönlendirdi ve sonuçta durum ışığı kapalıyken kayıt yapabilen bir webcam, bir web sayfasından erişilebilen 48 komutluk düz metinli bir kabuk saklayan bir mikrofon ve belleği yerel WiFi'daki herkes tarafından yazılabilen bir key light elde etti.

İş akışı

Her cihaz için tarif aynıydı. Yazar, üreticinin donanım yazılımı imajını ve güncelleme aracını indirdi, ikisini de bir tersine mühendislik ortamına yükledi ve ajana bir brief verdi: donanım yazılımını eksiksiz belgele, güncelleme formatını ve protokolünü tersine mühendislikle çöz, güncelleyiciyi yeniden uygula, güvenlik özelliklerini — checksum, imza doğrulama, secure boot — değerlendir ve gizli ya da hata ayıklama işlevlerini ara. Cihaz fiziksel olarak bağlı kaldı ki ajan onu veri değiştirmeyen yollarla yoklayabilsin. Gönderideki oturum kayıtlarına göre beş cihazın tamamında çaba yaklaşık 13 saatlik ajan çalışma süresi ve 98 insan prompt'undan oluşuyordu; bulguların çoğu gerçek donanımla doğrulandı ve üretilen dokümantasyon ile script'lerden oluşan GitHub repository'leri olarak yayımlandı.

Karanlıkta kayıt yapan bir webcam

Yüz takipli gimballi bir webcam olan Insta360 Link, 3,7 saatlik ajan süresi ve 33 prompt aldı. Çip satıcısı Ambarella'dan gelen gerçek zamanlı bir işletim sistemi olan ThreadX üzerinde, izleme ve el hareketi kontrolü için birkaç küçük vision modeliyle birlikte çalışıyor — bir masa kamerası için oldukça büyük saldırı yüzeyi. Donanım yazılımı iki yolla değiştirilebiliyor: USB Video Class arayüzündeki bir extension-unit komutu cihazı mass-storage moduna alıyor, böylece bir güncelleme hazırlanıp sonraki yeniden başlatmada uygulanabiliyor; ayrı bir vendor-class kanal ise rastgele dosya okuma ve yazmaya ek olarak yeniden başlatmaya izin veriyor ve hiçbir kullanıcı etkileşimi olmadan tam bir flash yapılmasına olanak tanıyor. Tek bütünlük koruması ise sona eklenmiş bir MD5 hash'i. Yazar, ajana donanım yazılımındaki LED desenleri tablosunu, kaydı bildiren yeşil ışığın hiç yanmaması için yamalattı, hash'i yeniden hesapletip kamerayı yeniden flash'ladı; kayıt göstergesi böylece karanlıkta kaldı. Gimbal boştayken hâlâ aşağı eğiliyor, yani kamera tamamen gizli değil.

Kapıları açık monitör donanım yazılımı

Projenin başlangıç noktası olan ASUS ROG Swift PG42UQ monitör yalnızca 1,2 saat ve 13 prompt gerektirdi. Motivasyon sıradandı: piksel temizlemeyi çalıştırmayı hatırlatan yinelenen ekran uyarısını susturmak. Donanım yazılımının fiilen hiçbir koruması olmadığı ortaya çıktı — A/B slot düzeni ve basit bir checksum, güncellemeler USB üzerinden köprülenen bir I2C veriyoluyla iletiliyor. Uyarının yerleşik bir kapatma düğmesi yok ve sekiz saatlik kullanımdan sonra geri geliyor, ancak ajan yamalanacak kodu buldu; yazar henüz pahalı bir ekranı flash'lama riskini almadı. Yararlı bir yan ürün ise, monitörün DDC/CI arayüzünü kullanarak donanım nişangâhını, zoom overlay'ini, FPS sayacını ve geri sayım zamanlayıcısını açıp kapatan bir Linux shell script'i oldu — ASUS'un aksi halde yalnızca Windows aracı üzerinden sunduğu özellikler.

Bir mikrofonun içinde düz metinli bir kabuk

Shure MV7 mikrofonu, 4,2 saat ve 32 prompt ile en uzun süreni aldı. Donanım yazılımı Windows MOTIV Mix uygulamasının içinde gizliydi; ajan onu Wine altına kurdu, güncelleme sunucusunu buldu ve imajı çekti. İmajda yine anlamlı bir flash güvenliği olmaksızın hem DSP hem MCU kodu var. Güncelleme protokolü, DSP ayarları, rastgele bellek okuma ve yazma ile LED kontrolünü kapsayan 48 komutluk tam bir düz metin komut kabuğu uygulayan bir USB HID vendor class üzerinden çalışıyor. Hassas bölümleri dört kademeli bir yetki sistemi koruyor, ancak kimlik doğrulaması bir dizgiyi istenen kademenin adıyla karşılaştırmaktan ibaret; yani en üst kademe adını söylemek o kademenin verilmesini sağlıyor. O kademe dokunmatik paneli devre dışı bırakabiliyor, böylece mikrofon cihaz üzerinde sessize alınamıyor; ayrıca mute LED'ini mikrofonun gerçekten sessize alınıp alınmadığından bağımsız olarak sürükleyebiliyor — webcam hilesi, bir ses cihazında yankılanıyor. Protokol HID olduğu için Chrome'daki bir web sayfası ona WebHID üzerinden ulaşabiliyor ve yazar, ajan ona tarayıcı tabanlı bir konsol yaptırdı. 1,5 saatlik ajan süresiyle Elgato Cam Link 4K capture dongle grubu tamamladı.

Neden önemli

Gönderide iki iz sürülüyor. İlki güvenlik: durum LED'leri, bir kamera ya da mikrofonun açık olduğuna dair çoğu insanın sahip olduğu tek sinyal ve bu örneklerde, güncelleme mekanizmalarında imza denetimi ya da anti-tamper önlemi bulunmayan cihazlarda donanım yazılımı tarafından kontrol edilen özellikler. İmzasız güncelleme yolları ayrıca çevre birimlerini kalıcı implant'lar için çekici yerler hâline getiriyor. İkincisi ise emek. Bir zamanlar uzman tersine mühendislik becerisi gerektiren bulgular — özel güncelleme protokolleri, önemsiz yetki yükseltme, LED'i devre dışı bırakma — yaklaşık 13 saatlik ajan emeği ve motivasyonlu bir hobiciden gelen kısa prompt'larla ortaya çıktı. Bu iki yönde işliyor: sahipleri için denetim, onarım ve platformlar arası araçları demokratikleştirirken, daha kötü niyetli herkes için beceri eşiğini de düşürüyor.