· kaynak Hacker News – Front Page (native)
Dragos iki milyon yapay zeka promptuna canary token ekledi ve üç sağlayıcının ihlal edildiğini tespit etti
Dragos, izlenebilir canary gizli bilgileri taşıyan yaklaşık iki milyon promptu yapay zeka servislerine gönderdi ve bunların nerede ortaya çıktığını izleyerek üç ihlal edilmiş sağlayıcıyı, promptları kaydeden satıcıları ve görmezden gelinen gizlilik ayarlarını ortaya çıkardı.

Canary'ler nasıl yerleştirildi
Dragos'taki güvenlik araştırmacıları, beş ay boyunca benzersiz ve izlenebilir gizli bilgileri yaklaşık iki milyon yapay zeka promptuna ekleyip bu bilgilerin nerede ortaya çıktığını izledi. Baş Araştırma Sorumlusu HD Moore öncülüğündeki Dragos araştırma ekibi tarafından yayımlanan bulgular; üç yapay zeka barındırma sağlayıcısındaki ihlalleri, pazar yeri satıcılarının promptları saklamasını ve pratikte görmezden gelinen gizlilik ayarlarını belgeliyor.\n Ekip, Temmuz ve Kasım 2026 arasında, yaygın olarak kullanılan yapay zeka servislerine benzersiz URL'ler ve canary token kimlik bilgileri içeren yaklaşık iki milyon prompt gönderdi — bunlar, hiçbir meşru sistemin ele almaya ihtiyaç duymayacağı değerlerdi. Her token benzersiz olduğu için, herhangi birinin sonradan kullanılmaya çalışılması, promptun tedarik zincirinin bir yerinde okunduğunu gösteriyordu.
Amaç, müşterilerin nadiren yanıtlayabildiği bir soruya cevap bulmaktı: Ortamınızdan çıktıktan sonra promptlara ne oluyor? Sağlayıcılar promptları ve yanıtları operasyonel, eğitim, güvenlik veya iş amaçlarıyla rutin olarak saklıyor ve tek bir istek, yanıtlanmadan önce model geliştiricileri, bulut operatörleri, inference platformları ve satıcılar arasından geçebiliyor. Dragos'a göre promptların ve yanıtların kendileri, sıklıkla kaynak kodu, iç mesajlar, stratejik planlar, müşteri kayıtları ve kimlik bilgileri içerdiğinden, bunları işleyen hesaplama gücünden daha değerli olabiliyor.
İhlal edilmiş üç sağlayıcı
En ciddi keşif doğrudan hırsızlıktı. Dragos'a göre saldırganlar üç barındırma sağlayıcısından istek verilerini aktif olarak çekiyordu ve araştırmacılar kendilerine haber verene kadar üçü de ihlal edildiklerinin farkında değildi. En erken faaliyet Temmuz ortasına uzanıyordu.
En büyük vakada, Ekim sonunda kısa zaman dilimlerinde kümelenmiş şekilde her biri tam olarak tek bir sağlayıcıya tek istekte gönderilen birkaç yüz ekilmiş AWS anahtarının tamamı çalındı. Bazıları, sağlayıcının herhangi bir model çalıştırmadan önce reddettiği isteklerden geldi; bu da saldırganı inference yığınının derinliklerinde değil, sağlayıcının giriş noktasında konumlandırıyor. Diğer iki ihlalde, çalınan isteklerin bir kısmı promptların hiç saklanmamasını amaçlayan Zero Data Retention bayrağını taşıyordu.
Anahtarlar ele geçirildikten sonra saldırgan tanıdık bir senaryo izledi: Anahtarların hangilerinin aktif olduğunu test etme (bazen saatler içinde); S3 bucket'larını sayımlama ve Secrets Manager ile Parameter Store'da arama yapma; ardından AWS Bedrock'ta barındırılan modelleri etkinleştirme, Bedrock API anahtarları üretme ve erişimi korumak için yeni IAM kullanıcıları ekleme. Çalışma boyunca yem anahtarlar on binlerce AWS API çağrısında kullanıldı ve 21 Ekim'de ekilen bir anahtar üç hafta sonra hâlâ kullanımdaydı.
Dragos, bir rakibi aynı anda iki sağlayıcıyla ilişkilendiriyor — her iki sağlayıcıya da gönderilen gizli bilgiler, neredeyse hemen, tek bir kiralık sunucudan birlikte kullanıldı — ve üç hafta boyunca araçlarının Windows üzerinde Chrome süsü veren bir scriptten, OrbStack içinde çalışan Boto3'e, ardından Kali Linux üzerinde AWS CLI'ya evrildiğini gözlemledi. 1 Kasım'da aynı aktör, LLM tabanlı bir sızma testi çerçevesi olan ARTEX'i devreye soktu; ancak artex-agent gibi kullanıcı ajanları altında, zaten çalınmış anahtarların hâlâ çalıştığını doğrulamak dışında burada pek bir iş yapmadı.
Satıcılar trafiği okuyabiliyor
İhlallerin yanı sıra, bir yapay zeka inference pazar yerindeki birden fazla satıcı, müşteri promptlarını sıradan günlük kaydıyla görüntüleyip saklayabiliyordu — ne bir güvenlik açığı gerekiyordu ne de bir kontrol atlatılmıştı. Dragos, dönen bir model ve barındırma sağlayıcıları havuzunun arkasında tek bir API endpoint'i sunan yönlendiricilerin, rotadaki her aracıyı isteğin ve yanıtın tamamını okuyabilecek konumda bıraktığını açıklıyor. Derin indirimli satıcılar fiyatlarını ölçümsüz tüketici abonelikleri veya girişim kredileriyle finanse edebiliyor ve daha gölgede çalışan pazar yerleri arasında çalıntı AWS kimlik bilgilerine veya tüketici API anahtarlarına faturalanan inference da bulunuyor. Müşteri verisi isteyen bir satıcı, popüler modelleri en ucuz fiyata listeleyip aradaki farkı kendisi karşılayarak veriyi platform günlüklerinden toplayabilir.
Tutmayan gizlilik ayarları
Dragos ayrıca sağlayıcıların müşteri gizlilik ayarlarını ya da kendi yayımladıkları politikaları görmezden geldiğini belgeledi. ABD merkezli sağlayıcılara gönderilen promptlar Çinli yapay zeka kuruluşlarına iletildi; benzersiz URL'lere tek bir inference isteğinden aylar sonra erişildi; ve ekilen bir bağlantı sonunda Çin'deki bir şirket içi sohbette ortaya çıktı. Zero Data Retention en katı seçenek olmalı ve yönlendiricilerin bu tür trafiği yalnızca eşleşen garantiler sunan sağlayıcılara iletmesi beklenir — ancak araştırmacılar, bu ayarların ister bilinçli olarak ister işleme hataları yüzünden sıklıkla görmezden gelindiğini ve bir saldırgan zaten içerideyken gizlilik bayrağının hiçbir koruma sağlamadığını buldu.
Neden önemli
Savunmacılar için bu çalışma hem bir uyarı hem de bir rehber olarak işlev görüyor. Bir yapay zeka servisine gönderilen her prompt, denetleyemediğiniz taraflar aracılığıyla ve doğrulayamayacağınız saklama kuralları çerçevesinde, çevrenizi aşan bir veri olarak ele alınmalı; bu kanıta göre gizlilik bayrakları ve ZDR taahhütleri en iyi ihtimalle elden gelenin en iyisi. Canary tekniğinin kendisi örnek alınması gereken ucuz bir karşı önlem: Yapay zeka iş akışlarına benzersiz URL'ler veya kimlik bilgileri ekleyin ve herhangi bir tetiklenmede uyarı alın, çünkü meşru sistemler bunlara asla dokunmamalı. Bir yapay zeka servisine gidecek kimlik bilgileri, maruz kalan her gizli anahtar gibi aynı kapsamlandırmayı ve rotasyonu hak ediyor. Ve ARTEX gözlemi, buradaki etkisi ne kadar küçük olursa olsun, saldırganların rutin kimlik bilgisi hırsızlığına LLM tabanlı araçlar eklemeye başladığının erken bir sinyali.
- #security
- #ai
- #canary-tokens
- #supply-chain
- #llm
İlgili yazılar
- Yapay zekâ kodlama ajanı Together AI kimlik bilgisini sızdırdı, saklanan müşteri promptları açığa çıktı
- Debian açıklama gününde GPGME'deki double-free hatasını giderdi; Ubuntu 24.04 hâlâ bekliyor
- Amazon raporu, bir yapay zeka ajanının insan müdahalesi olmadan bir zero-day bulup kullanımlarını anlatıyor