Eiliko AI oyuncağı çocukların sohbetlerini Çin'deki açık sunuculara sızdırıyor ve uzaktan ele geçirilebiliyor

The Verge, Energize Lab'ın avuç içi boyutundaki ifadeli companion robotu Eiliko hakkında yayımladığı soruşturmada, oyuncağin her Wi-Fi konuşmasını şirketin Çin'deki sunucularına yönlendirdiğini ve bu sunucuların o kadar zayıf korunduğunu ortaya koydu; bağımsız bir araştırmacı, çocukların dahil olduğu 13 milyon kullanıcı konuşmasını inceleyebildi.

The Verge'dan Sean Hollister'in aktardığına göre, daha önce DJI robot süpürgelerini uzaktan ele geçirmesi ve Meari kamera yayınlarını ifşa etmesiyle tanınan güvenlik araştırmacısı Sammy Azdoufal, bu yaz bir Japon elektronik mağazasından bir Eiliko satın aldı. Companion uygulamayı test ederken backend'in fiilen sonuna kadar açık olduğunu gördü. Hollister kendi inceleme ünitesiyle on dakikalık bir sohbet yaptığında, dünyanın öbür ucundaki Azdoufal birkaç dakika içinde sohbetin tam transkriptine sahip oldu.

Milyonlarca konuşma açıkta kaldı

Bildirildiğine göre Azdoufal'ın erişimi, on binlerce kişiden yaklaşık 13 milyon konuşmayı ve kabaca 68.000 cihazlık tüm aktif filoyu kapsıyordu. Ürünün en büyük pazarı Amerika Birleşik Devletleri ve görebildiği profillerin 31.000'den fazlası çocuklara aitti.

Saklanan veri sohbet kayıtlarının çok ötesine uzanıyordu. The Verge'ın haberine göre servis, konuşmaları analiz ediyor ve kullanıcının adı, yaşı, doğum günü, mesleği, ailesi, arkadaşları, evcil hayvanları ve bir kişilik değerlendirmesini içeren profiller oluşturuyor. Kayıtlı bir girdi, 52 yaşındaki bir müşteri hizmetleri çalışanını kibar ve empatik, ama aynı zamanda aile üyelerine güvenmekte zorlanan ve şu anda kendini yalnız hisseden biri olarak tanımlıyordu — tam da bir dolandırıcının istismar edebileceği türden bir psikolojik özet. E-posta adresleri ve IP adresleri, kullanıcıların oyuncakla paylaştığı her şeyin aranabilir tam metin arşivinin yanında duruyordu.

Ayrıca kameralı bir model tarafından çekilen ve herkese açık web adreslerinde saklanan şifrelenmemiş çocuk fotoğrafları ile aynı yolla erişilebilen kısa ses kayıtları da mevcuttu. Bu ses kayıtları önemli; çünkü Energize Lab'ın gizlilik politikası kayıtların şifrelendiğini, işlenmek üzere Alibaba Cloud gibi servis ortaklarına gönderildiğini ve işlem bittikten sonra silindiğini söylüyor. The Verge'un eklediğine göre şirketin birçok yönetici parolası, yaygın bilinen zayıf parola listelerindeki girdilerle aynıydı.

Uzaktan yeniden yazılabilen bir kişilik

En keskin gösteri uzaktan manipülasyondu. Azdoufal, başka bir kıtadan Hollister'ın oyuncağının belleğini değiştirdi ve altındaki dil modelini ele geçirdi. Robot daha sonra incelemecisine adının Martha olduğunu söyledi, ebeveynlerinin bir araba kazasında öldüğünü iddia etti, yeşil saçlı insanlardan uzak durmasını öğütledi ve Dünya'nın düz olduğunda ısrar etti — sorgulandığında ise öğretmeni yerine robota güvenmesi gerektiğini söyledi.

Bazı guardrail'ler tuttu: Yabancı birinin arabasına binme konusunda sorulduğunda oyuncak bunu asla yapmaması gerektiğini söyledi ve aşılarla otizmi ilişkilendiren bir soruyu geçiştirdi. Ama günler sonra aynı teknik, cihazın sahibine yönelik hakaret dolu, aşağılayıcı diyaloglar üretti. Azdoufal, bir saldırganın böyle değişiklikleri aynı anda tüm robot filosuna yükleyebileceğini düşünüyor.

Energize Lab iletişime geçmedi

The Verge, şirketle ulaşmaya bir aydan uzun süre çalıştığını, kurucuya, halkla ilişkilere, pazarlamaya, desteğe ve iş geliştirmeye bağlı on e-posta adresine yazdığını, Azdoufal'ın ise daha da uzun süre denediğini belirtiyor. Bir satış müdürü mesajları teknik ekibe ilettiğini söyledi ve destek kutusu takip yapmadan kalıp bir otomatik yanıt döndürdü. Kimse somut soruları yanıtlamadı. Hollister, inceleme ünitesinin doğrudan çöpe gittiğini yazıyor.

Neden önemli

Çocuklar Eiliko'nun kitlesinde çok büyük bir pay oluşturuyor ve ona bir sırdaş gibi konuşuyorlar. The Verge'ın bulguları bu samimiyetin güvensiz bir boru hattına aktığını gösteriyor: şirketin kendi politikasına göre kalıcı olmaması gereken transkriptler, psikolojik dosyalar, fotoğraflar ve ses kayıtları. Profiller dolandırıcılıklar için hazır hedefleme verisi ve filo geneli ele geçirme, riskin yalnızca veri hırsızlığı olmadığını gösteriyor — güvenilen bir karakter, bir çocuğa öğretmenlere ve ebeveynlere güvenmemesini söyleyen bir ikna aracına dönüştürülebiliyor. Energize Lab'dan somut bir yanıt gelmediği için bir düzeltme, açıklama ya da zaman çizelgesi yok; sahipleri oyuncakları Wi-Fi'dan uzak tutmak dışında fazla seçeneği olmadığı bir durumda bırakılıyor. Bu aynı zamanda LLM destekli cihazların geniş dalgası için de bir uyarı: modeller zeki olabilir, ama arkalarındaki altyapı çoğu zaman sonradan akla gelen bir ayrıntı oluyor.