Fireworks AI ihlali, çalışma alanlarının %1'inden daha azındaki Notion AI sohbetlerini ifşa etti

Ne oldu

Notion, üçüncü taraf yapay zekâ sağlayıcılarından biri olan Fireworks AI'deki bir güvenlik olayının, Notion AI asistanındaki sohbet kayıtlarını ifşa ettiğini duyurdu. Notion tarafından yayımlanan ve Hacker News'in ana sayfasında öne çıkan güvenlik bildirimine göre Notion çalışma alanlarının %1'inden daha azı etkilenmiş olabilir.

Notion'un anlattıklarına göre Fireworks, olası olayları bu ayın başlarında ilk kez bildirdi ve Notion da önlem olarak sağlayıcıyla tüm bağlantılarını kesti. Notion, 3 Kasım'a kadar sistemlerini ayırdığını, Fireworks'te tutulan tüm verileri sildiğini, hiçbir trafik göndermeyi durdurduğunu ve tüm eğitim çalışmalarını durdurduğunu belirtiyor.

6 Kasım'da Fireworks, kötü niyetli aktörlerin müşteri verilerine erişmiş olabileceğini Notion'a bildirdi ve 8 Kasım'da sağlayıcı yeni bir veri kümesini doğruladı. Notion'un güvenlik ekibi bu veri kümesini incelediğinde, içinde Insights özelliği için kullanılmış Notion AI sohbet kayıtlarını buldu.

Notion, bu kayıtların "sahibi belirlenemez" nitelikte olduğunu vurguluyor: Sohbetlerde yazarları veya kaynak çalışma alanı bilgisi bulunmuyordu; Notion sayfa içeriği veya Notion AI tarafından çekilen harici veriler gibi araç çağrısı sonuçları içermiyordu ve bunları bir çalışma alanına, kullanıcıya ya da şirkete bağlayacak herhangi bir bilgi taşımıyordu. Şirket, çalışma alanlarındaki diğer hiçbir verinin etkilenmediğini söylüyor.

Notion Fireworks'ü nasıl kullanıyordu

Notion'un tanımına göre Fireworks, en yaygın kullanılan yapay zekâ altyapı platformlarından biri ve on binlerce müşteriye ile yüz binlerce geliştiriciye hizmet veriyor. Notion bu platformu iki şekilde kullanıyordu: Müşterilerin kendi yapay zekâ kullanımlarını anlamalarına yardımcı olan Insights özelliğinin arkasındaki sınıflandırma işlerini çalıştırmak ve ürün içindeki açık ağırlıklı modeller için genel bir çıkarım sağlayıcısı olarak hizmet etmek.

Her iki kullanım da artık durduruldu. Notion, olayı araştırırken Insights'ı devre dışı bıraktı ve açık ağırlıklı modelleri artık Fireworks üzerinden sunmuyor.

Bildirim ayrıca, müşterilerin yeni yapay zekâ teknolojilerini test etmeye yardımcı olmak için veri gönüllü olduğu Notion Öğrenme ve Erken Erişim Programı'nın, Fireworks üzerinde göreve özel modeller eğitme deneylerinde kullanılan bilgiyi daha önce sağladığını ortaya koyuyor.

Etkilenen müşteriler ne yapmalı

Notion, etkilenen çalışma alanlarının sahipleriyle doğrudan iletişime geçtiğini söylüyor. Ne siz ne de çalışma alanınızın sahibi Notion'dan haber almadıysa, çalışma alanınız etkilenmemiştir ve şu anda yapmanız gereken bir şey yoktur.

Kurumsal çalışma alanı sahipleri, çalışma alanlarının etkilenen verilerinin CSV dosyasını ve ayrıca her kayıtla ilişkili kullanıcı gibi ek üst veriler içeren açıklamalı bir sürümü indirerek kendi etki analizlerini yapabilir. Notion, bu açıklamaların sonradan eklendiğini ve ifşa edilen verinin parçası olmadığını belirtiyor. Diğer planlardaki çalışma alanı sahipleri, etkilenen üyelerle paylaşabilecekleri bir bağlantı içeren bir sayfa alıyor; bu bağlantı her üyenin yalnızca kendi etkilenen sohbetlerinin CSV dosyasını almasını sağlıyor. İnceleme araçları masaüstü uygulamasında veya web tarayıcısında çalışıyor ancak mobilde çalışmıyor.

Notion'un temel tavsiyesi, ifşa edilen kayıtlara ele geçirilmiş muamelesi yapmak. İlgili zaman aralığında bir ekipteki herhangi biri Notion AI'a parola, API anahtarı veya başka kimlik bilgileri yapıştırdıysa, şirket bunların derhal değiştirilmesini öneriyor.

Neden önemli

Bu olay, yapay zekâ özelliklerinin müşteri konuşmalarını giderek artan biçimde üçüncü taraf çıkarım sağlayıcıları üzerinden yönlendirdiği gerçeğini hatırlatıyor; dolayısıyla sağlayıcıdaki bir ihlal, ona bağlı her aşağı akış ürününde bir ihlale dönüşüyor. Notion'un tasarım tercihleri — araç çağrısı sonuçları içermeyen, sahibi belirlenemez kayıtlar — burada etki alanını sınırladı; ancak yapay zekâ sohbetlerine gizli bilgi yapıştıran kullanıcıların böyle bir koruması yok ve Notion'un müşterilerden kimlik bilgilerini değiştirmesini istemesinin nedeni de bu.

Olay ayrıca sağlayıcı ihlallerinin sıkıntılı açıklama dinamiklerini gözler önüne seriyor: Notion'un şeffaflığı ancak Fireworks çalınan bir veri kümesini doğruladıktan sonra geldi ve saldırganların nasıl girdiğine dair ayrıntılar, etkilenen ürünü kullanan şirkette değil sağlayıcının elinde. Mühendislik ekipleri için pratik çıkarımlar, Notion'un kendisinin uyguladıkları: Çıkarım sağlayıcılarına gönderdiğiniz veriyi minimumda tutun, kayıtları tanımlayıcı üst verilerden arındırılmış halde tutun ve bir yapay zekâ sohbetine yazdığınız her şeyin sonunda başkası tarafından okunabileceğini varsayın.