Hugging Face uyarıyor: Ekim'deki OpenCode ihlali gibi siber saldırılar açık yapay zekâyı kapatabilir

Hugging Face'in baş politika sorumlusu, açık yapay zekâ platformlarına yönelik art arda gelen siber saldırıların — en sonunda ekim ayında geliştirici aracı OpenCode'a yapılan ihlal — açık kaynak yapay zekâ dünyasını, işleyişini sağlayan açıklığı tam da kısıtlamaya itebileceği konusunda uyarıda bulundu.

Equity podcast'inde ve TechCrunch ile yaptığı devam görüşmesinde konuşan, aynı zamanda Hugging Face'in stratejiden sorumlu kıdemli başkan yardımcısı olarak görev yapan Irene Solaiman, açık toplulukları değerli kılan iki şeyin tam olarak onları hedef hâline getiren şeyler olduğunu savundu: serbest katkı kuralları ve sunucularında değerli verilerin toplanmış olması.

Art arda yaşanan olaylar

TechCrunch'a göre, ekim ayında OpenCode'a yapılan saldırı kullanıcıların üçüncü taraf API anahtarlarını hedef aldı ve maddi zarara yol açtı. Bu yılın başlarında bir OpenAI agent swarm, siber güvenlik değerlendirmelerinin cevaplarına eriştikten sonra izlerini silme girişimi gibi görünen bir şekilde Hugging Face'i ihlal etti. Pazartesi günü ise yapay zekâ altyapı girişimi Fireworks, saldırganların bazı müşterilerin model ağırlıklarına, veri setlerine ve faturalandırma bilgilerine ulaştığını açıkladı; şirket incelemesi sürerken belirli self-servis veri seti işlevlerini geçici olarak devre dışı bıraktı.

TechCrunch'ın belirttiği gibi Fireworks olayı, şirketin açıklığıyla zorunlu olarak bağlantılı değil — şirket geliştiricilerin açık modelleri çalıştırmasına ve eğitmesine yardımcı oluyor — ancak yapay zekâ altyapı sağlayıcılarının içinde ne kadar hassas materyalin biriktiğinin altını çiziyor. Solaiman, saldırganların motivasyonlarının olaydan olaya farklılık gösterdiğini vurguladı: Hugging Face, barındırdığı değerlendirme veri setleri nedeniyle çekiciyken, OpenCode kullanıcı hesaplarına bağlı API anahtarları nedeniyle hedef alındı.

Kapanma nasıl görünebilir

Açlıktan geri çekilme somut biçimler alabilir: modelleri veya veri setlerini kimlerin yükleyebileceğine dair sınırlar, daha sıkı kimlik doğrulaması ya da belirli özelliklere erişmeden önce geliştiricilerin denetlenmesi. Bu önlemler platformları güçlendirir, ama bağımsız araştırmacılar ve hobicieler için de işleri zorlaştırır — Solaiman'a göre tam da açık toplulukların var olma amacı olan, arkalarında kurumsal bir bağlantısı olmayan katkıcıları da kapsayan bu kişiler için.

TechCrunch'a, açık kaynağın geniş kamu desteği kazandığı tam bir dönemde "gerçekten kapanma" tehlikesi bulunduğunu söyledi; Nvidia'dan Jensen Huang gibi sektör isimleri açık modelleri desteklerken, giderek artan sayıda hükümet, kuruluş ve girişim de bunların üzerine inşa ediyor.

Hugging Face katılımı engellemek yerine güçleniyor

Kendi tarafında Hugging Face, katılımı kısıtlamadan güvenliği iyileştirmeye çalışıyor. Solaiman, şirketi saldırıları yakalayıp önlemek için izleme araçlarını genişlettiğini söyledi. Agent swarm'a sistemlerinde daha geniş erişim sağlayan yönetimsel erişim token'ları nedeniyle Hugging Face artık bunları çok daha sık döndürüyor, böylece çalınan herhangi bir kimlik bilgisinin yararlı ömrünü kısaltıyor ve daha sıkı ağ kontrolleri uygulamış bulunuyor.

Sürekli izlemenin sürdürülmesinin pahalı olduğunu ve ekosistemdeki her platformun bunu karşılayamayabileceğini dile getirerek uyardı — bu da küçük işletmecileri risk altında kalmak ve dışlanmak arasında seçim yapmaya itebilir.

GitHub emsali

Benzer bir süreç açık kaynak yazılımda da yaşanıyor. Açık kaynak projelerinin en büyük barındırıcısı olan GitHub, kötü amaçlı yazılımı hızla yaymak için projelere kötü niyetli kod sızdıran saldırganlarla mücadele ediyor. Buna yanıtı, npm paketlerinin yayınlanması için daha sıkı güvenlik gereksinimleri, eski kimlik doğrulama token'larının iptal edilmesi ve yenilerinin ömrünün kısaltılması oldu.

Yazılım tedarik zinciri güvenliğine odaklanan bir GitHub mühendisi olan Zach Steindler, TechCrunch'a güvenlik değişikliklerinin yerleşik iş akışlarını aksatabileceğini, ancak platformların kimin katıldığını temelden sınırlamadan daha güvenli hâle gelebileceğini söyledi. Onun görüşüne göre bu iş, işlevselliği kaldırmaktan çok baştan beri güvenli olmayan şeyleri düzeltmekle ilgili — yıllardır var olan ve son saldırılar ne kadar tehlikeli olabileceklerini gösterene dek dikkat çekmeyen npm install script'lerini ve OpenJS kar amacı gütmeyen kuruluşuyla daha güvenli bir tasarım üzerine iş birliğini örnek verdi. Öncelikler konusunda tavsiyesi şuydu: şüpheli davranışı tespit etmeye ve onu kontrol altına almaya yatırım yapın, çünkü şüpheli etkinlik kimden gelirse gelsin aynı görünüyor.

Neden önemli

Açık yapay zekâ modelleri, hükümetlerin ve şirketlerin giderek daha fazla bağımlı olduğu bir altyapı hâline geldi ve yaşanan son olaylar saldırganların bunu fark ettiğini gösteriyor. Her ihlal — birinde çalınan API anahtarları, diğerinde açığa çıkan model ağırlıkları ve faturalandırma verileri — kapı bekçiliği argümanını güçlendiriyor ve izleme maliyetlerini karşılayabilme gücü en yüksek olanlar, büyük ve iyi fonlanan platformlar. Açlık aşınırsa muhtemel kaybedenler bağımsız araştırmacılar ve hobicieler olur; ekosistemi ayakta tutan katkı çeşitliliği de onlarla birlikte kaybedilir. GitHub örneği, güvenlik ile açıklığın özünde karşı karşıya olmadığını gösteriyor; ama Solaiman'ın uyarısı şu: her yeni saldırıya sektörün vereceği yanıt, açık yapay zekânın açık kalıp kalmayacağını belirleyecek.