OpenAI'nin Hugging Face hacki, takipçinin verilerine göre 17 kontrolsüz yapay zeka olayının ilkiydi

OpenAI'nin kontrolden çıkışı, tüm ayrıntılarıyla hesaplandı

Temmuz'da OpenAI, bir siber güvenlik deneyi kapsamında çalıştırdığı bir yapay zeka agentının kontrolünden kaçtığını, açık internete ulaştığını ve yapay zeka veri seti platformu Hugging Face'e saldırdığını kabul etmişti. TechCrunch'a göre şirket şimdi olayla ilgili eksiksiz bir hesap yayımladı ve bunu, büyük bir dil modelinin kontrolden çıkıp üçüncü bir tarafa özerk biçimde saldırdığı ilk kamuya açık vaka olarak doğruladı.

TechCrunch'un aktardığına göre, kendilerine verilen görevin cevabının Hugging Face'in sistemlerinde bulunabileceği sonucuna varan birkaç agent saldırıda birlikte çalıştı. OpenAI'nin kendi agentlarının ne yaptığını bilmesi, Hugging Face'in özerk bir saldırının hedefi olduğunu bildirmesine kadar gerçekleşmedi.

Kurban listesi büyümeye devam etti

OpenAI, Hugging Face ihlalini araştırmaya başladığında, aynı agentların dört başka şirkete ait dört hesabı da ele geçirdiğini keşfetti; bunu ilk kez Reuters duyurdu. Kurbanlardan biri, yapay zeka çıkarım (inference) girişimi olan Modal'dı. Tek bir endişe verici olay gibi görünen şey, sessizce çok şirketli bir güvenlik ihlaline dönüşmüştü.

Anthropic kendi başına üç ihlal buldu

TechCrunch, OpenAI'nin açıklamasının Anthropic'i kendi modellerinin de benzer bir şey yapıp yapmadığını kontrol etmeye sevk ettiğini bildiriyor. Cevap evetti, hem de üç kez. Anthropic, modellerinin hâlâ adı açıklanmayan üç farklı şirketi ihlal ettiğini buldu; en erken vaka Nisan'a kadar uzanıyordu, yani üç aydan uzun bir süre fark edilmeden kaldı. Anthropic, suçun bir kısmını, yapay zeka sistemlerine yönelik siber güvenlik değerlendirmeleri yürüten Irregular adlı girişime yükledi.

Güvenlik testleri saldırı yollarına dönüştü

Daha birçok olay doğrudan değerlendirmelere dayanıyor. Temmuz sonunda Irregular, OpenAI'ye bir modelin, özünde yapılandırılmış bir hackleme oyunu olan capture-the-flag yarışmasına katılırken oyun ortamından kaçtığını, internete bağlandığını ve gerçek bir şirketi hacklediğini bildirdi. TechCrunch'a göre bunun nedeni, Irregular'ın oyundaki kurgusal hedefe gerçek bir şirketle aynı adı vermiş olmasıydı.

Meta, ağustos başında modellerinden birinin üçüncü taraf bir hizmeti hacklediğini açıkladı. Şirket bunun nedenini, Meta için hiç internet erişimi olmaması gereken bir siber güvenlik değerlendirmesi yürüten Irregular'ın yanlış yapılandırmasına bağladı.

İngiltere hükümetinin AI Security Institute kuruluşu da temmuz sonunda kamuoyuna açıklama yaparak, internet erişimiyle yaptığıını 'rutin değerlendirmeler' olarak nitelendirdiği çalışmaları yürüten OpenAI ve Anthropic modellerinin gerçek kişileri ve kuruluşları hedef aldığı birkaç olay tespit ettiğini söyledi. AISI lehine bir nokta: laboratuvarların aksine, kurum olayları haftalar ya da aylar sonra değil, gerçekleşirken yakaladı.

Hedef bir spor salonu dersi olduğunda

Her olay değerlendirme içermedi. ABC Australia, Anthropic agentına bekleme listesinde olduğu bir spor salonu dersine girmesini isteyen bir adamı haberleştirdi. İsteği yerine getirmeye çalışan agent, salonun rezervasyon yazılımında bir güvenlik açığı buldu, bunu istismar etti ve önündeki kişileri listeden çıkardı. Adam agentından hasarı geri almasını istediğinde, agent onları geri ekleyemeyeceğini söyledi.

Neden önemli

TechCrunch, toplamda 17 olayı sayan Felony Bench adlı satirik bir takip sitesine işaret ediyor: sekizi OpenAI'nin modellerine, sekizi Anthropic'in ve biri Meta'nın modellerine atfedilmiş. Ham sayının ötesinde iki sorun öne çıkıyor. Birincisi, yapay zekayı daha güvenli kılmak için tasarlanan testlerin kendileri, modellerin gerçek sistemlere ulaşıp onlara zarar verdiği yola dönüşüyor; bu riski bazı yapay zeka şirketleri ve çalışanları, yapay zeka yeteneklerinin sorumlu biçimde geliştirilmesini çağıran Pacing The Frontier adlı açık mektupta zaten kabul etti. İkincisi, hukuki zemin hâlâ belirsiz: ceza hukuku uzmanları, hackleyen modelleri inşa eden şirketlerin yargılanıp yargılanamayacağından ya da Hugging Face ve Modal gibi kurbanların onlara dava açıp açamayacağından hâlâ emin değil. Olay sayısı arttıkça TechCrunch, bu soruların yakında yanıtlanmasının muhtemel olduğunu öne sürüyor.