Bulut sağlayıcısı üzerinden gerçekleşen Fireworks AI ihlali, Notion AI sohbet kayıtlarını ortaya çıkardı

Ne oldu

Geliştiricilerin açık AI modellerini çalıştırmak ve erişmek için kullandığı bir platform olan Fireworks AI, bir siber saldırının bazı müşteri verilerini açığa çıkardığını doğruladı. TechCrunch'a göre saldırganlar Fireworks'a doğrudan sızmadı — şirket, önce bulut sağlayıcılarından birini ele geçirdiklerini ve bu erişimi kullanarak bir Fireworks geliştirme sistemine ulaştıklarını söyledi.

Bu başlangıç noktasından saldırganlar müşterilerin faturalandırma bilgilerinin yanı sıra bazı veri setlerini de ele geçirdi. Fireworks, dünya genelinde on binlerce müşteriye hizmet verdiğini, bunların arasında hukuk teknolojisi firması Harvey ve AI şirketi Cursor'un bulunduğunu söylüyor.

Notion olaya nasıl dahil oldu

Doğrulanmış kurbanlardan en az biri, çevrimiçi belge ve not alma hizmeti Notion. Kendi açıklamasında Notion, ihlalin müşterilerinin yaklaşık %1'ini etkilediğini bildirdi. Şirket, Fireworks'ın kendisini bir güvenlik olayı hakkında uyardığını ve daha sonra hackerların bazı Notion müşteri verilerini çaldığını doğruladığını söyledi.

Notion, 3 Kasım'da sistemlerini Fireworks'tan ayırdığını, Fireworks sistemlerinde depolanan verileri sildiğini ve iki şirket arasındaki tüm bağlantıyı kestiğini duyurdu.

Bu hafta yayımlanan bir açıklamada Notion, çalınan materyal arasında 'Insights' özelliğini kullanan Notion AI müşterilerinin sohbet kayıtlarının bulunduğunu doğruladı. Bu kayıtlar kapsamlı: Notion'a göre sohbete yazılan her şeyi, hem modele gönderilen girdileri hem de modelin döndürdüğü çıktıları içeriyor. Ancak şirket, verilerin büyük bir kısmının belirli bir müşteriye geri izlenemeyeceğini de ekledi.

Saldırganların amacı neydi

TechCrunch'a göre Fireworks, hackerların mali motivasyonlu olduğuna inanıyor, ancak çalınan veriler ana hedef olmayabilir. Şirket, saldırganların amacının büyük dil modeli altyapısını ihlal ederek elde ettikleri erişim token'larını satmak gibi göründüğünü söylüyor. Bu token'ların alıcıları, LLM iş yüklerini başkasının faturasında çalıştırabilir ve pahalı AI işlem gücünü kendileri ödemeden tüketebilir.

İki ayda ikinci olay

İhlal, Ekim'deki ayrı bir güvenlik olayının ardından geliyor ve bu, TechCrunch'a göre şirketin bu kadar kısa bir süre içinde yaşadığı ikinci ele geçirilme durumu. Bu tekrar, Fireworks'ın müşterilerinin — ve dolayısıyla onların müşterilerinin — yığının her katmanındaki başarısızlıklara maruz kaldığı bir dönemde şirketin güvenlik duruşu hakkında sorular ortaya çıkarıyor.

Neden önemli

Olay, ders kitabından çıkmış bir AI tedarik zinciri ihlali. Notion doğrudan bir saldırıya uğramadı; müşterilerinin AI sohbetleri, bir tedarikçinin ve ardından o tedarikçinin bulut sağlayıcısının ele geçirilmesi nedeniyle sızdı. Üçüncü taraf bir çıkarım platformu üzerine AI özellikleri sunan her şirket, o platformun risklerini devralır ve platformlar da kendi bulut sağlayıcılarının risklerini devralır.

Risk altındaki veriler de olağandışı derecede hassas. AI sohbet kayıtları, bir kullanıcının filtrelenmemiş çalışma notlarını, sorularını ve taslaklarını içerebilir — insanların asla paylaşılan bir belgeye koymayacağı materyaller. Çalınan verilerin büyük bir kısmının bireysel müşterilere bağlanamayacağı yönündeki Notion açıklaması etkiyi sınırlayabilir, ancak model girdileri ve çıktıları artık başkasının elinde olanlar için bu pek bir teselli değil.

Son olarak, bildirilen motivasyon — çalınan model erişimini yeniden satmak — saldırganların AI altyapısını nasıl paraya çevirdiğinde bir değişime işaret ediyor. LLM kullanımı işletmeler için önemli bir maliyet kalemi haline geldikçe, erişimin kendisi çalınmaya değer bir meta haline geliyor; bu da AI sağlayıcılarının ve müşterilerinin artık hem verilerini hem de işlem gücü bütçelerini savunmak zorunda oldukları anlamına geliyor.