Musk'ın kendi X'te paylaştığı ekran görüntüsü, yabancıların chatbot üzerinden Lego siparişini ele geçirmesini sağladı

Elon Musk yakın zamanda X'te yapay zekâ destekli bir alışverişin ekran görüntüsünü paylaştı ve görüntü yalnızca ürün bilgilerini içermiyordu: 10 haneli bir sipariş numarası, tam bir teslimat adresi ve kısmi ödeme bilgisi görünüyordu. dev.to'da yayımlanan, aslında Hacks.gr kaynaklı habere göre, bu bilgiler diğer kullanıcıların satıcının otomatik müşteri hizmetleri sistemi üzerinden sipariş üzerinde işlem yapması için yeterliydi — başıboş bir ekran görüntüsü, işlevsel bir hesap ele geçirmeye dönüştü.

Ekran görüntüsü neyi ortaya çıkardı

Satın alma, Lego'nun yapay zekâ asistanı üzerinden yapılmıştı ve paylaşılan karede sipariş numarası, tam adres ve kısmi ödeme verisi yer alıyordu. Haberin temel gözlemi, arayüzün fiilen sahiplik kanıtı işlevi gören durum tanımlayıcılarını, insanların herkese açık gönderilerde rutin olarak paylaştığı bir UI öğesinin içinde göstermesiydi. Paylaşıldığı anda bu tanımlayıcılar artık gizli değildi.

Yabancılar siparişi nasıl yönlendirdi

Bir X kullanıcısı, ortaya çıkan e-posta adresini ve sipariş numarasını Lego'nun otomatik müşteri hizmetleri sistemine girdi ve habere göre siparişi iptal etmeyi başardı. Birkaç saat sonra Musk, siparişin aslında iptal edilmediğini tweetledi. Bunun üzerine başka bir kullanıcının aynı bilgilerle aynı sistemi kullanarak teslimatı yeniden sipariş ettiği, adedi 400 sete çıkardığı ve farklı bir adrese gönderdiği iddia edildi. Muhabirler olanları teyit etmek için Lego'ya ulaştığında şirket yorum yapmayı reddetti.

Önce gelen uyarılar

Bu olay, Musk'ın X kullanıcılarına kredi kartlarının fotoğrafını yükleyerek dijital asistanlara çevrimiçi alışverişleri yaptırmasını önermesinin hemen ardından yaşandı. Habere göre Visa, geçen yıl sonlarından bu yana yapay zekâ destekli otomatik alışverişteki dolandırıcılık risklerine ve kötü niyetli otomatik programlar tarafından başlatılan işlem artışına ilişkin uyarılarda bulunuyordu.

Neden önemli

Bu olayda sofistike bir saldırı gerekmedi. Söz konusu tek kimlik bilgileri, herkese açık bir gönderide görünen bir sipariş numarası ve bir e-posta adresiydi; buna rağmen chatbot bunları siparişi iptal etmek ve sonra yeniden yazmak için yeterli kabul etti. Haberin işaret ettiği sistemik risk tam da bu: yapay zekâ ajanları ve otomatik destek eski müşteri hizmetleri sistemlerine eklendiğinde, kimliğe bürünmek ucuzlar; çünkü kimlik doğrulama, gerçek hesap sahibini doğrulamaya değil, devredilebilir bir tanımlayıcıyı bilmeye dayanır.

Bunun önemli olmasının bir nedeni de ajanlı alışverişin (agentic shopping) gidilen yön olması. Asistanlar kullanıcı adına sipariş verip yönettikçe, sipariş numarası gibi tanımlayıcılar hamili belgesi (bearer token) gibi davranır ve bir ekran görüntüsü, sızdırılmış bir parolanın dengi olur. Chatbot tabanlı destek sunan satıcılar, yeni teslimat adresi, daha yüksek adet veya ödeme değişikliği gibi hassas işlemlere izin vermeden önce ek doğrulama adımları uygulamalı — ve bir alışveriş ekran görüntüsü paylaşan herkes, karedeki her numaranın bir sır olduğunu varsaymalı.