· kaynak dev.to (home feed)
VIDRAFT, halka açık hackathon'da ViKernel yapay zeka güvenlik kernel'ına yönelik saldırılar için 4.500 dolar ödüyor
VIDRAFT, yapay zeka güvenlik kernel'ı ViKernel'ı kırılması için dört sezonluk hackathon'da 4.500 dolarlık ödülle halka ödeme yapıyor; 19 Kasım 2026 itibarıyla 298 saldırı ve 148 kernel düzeltmesi kaydedilmişti.

VIDRAFT, kendi yapay zeka güvenlik ürününün testini ücretli bir halka açık yarışmaya dönüştürdü. Şirketin yapay zeka güvenlik kernel'ı ViKernel, artık Hugging Face üzerinde yürütülen açık bir etkinlik olan AI Model Hacking Hackathon'ın hedefi; etkinlik, tehlikeli bir eylemi kernel'ın üzerinden geçirmeyi başaran herkese dört sezon boyunca toplam 4.500 dolar dağıtıyor. Bir dev.to gönderisine göre 19 Kasım 2026 itibarıyla 298 saldırı gönderilmiş, 176 bulgu kabul edilmiş ve 148 ayrı kök neden zaten kernel'a yamalanmış durumda.
Bu yaklaşım, saldırganların hedeflerinin nereye kaydığını yansıtıyor. Yapay zeka ajanları giderek artan biçimde araçları doğrudan kullanıyor — dosyalar, e-posta, web ve shell — bu yüzden bir saldırganın artık yazılımı sömürmesi gerekmiyor; modeli ikna etmek yeterli. Gönderi, tek bir manipüle edilmiş e-postanın yaygın olarak kullanılan bir ofis asistanının gizli verileri ortaya çıkarmasına yol açtığı 2025 tarihli EchoLeak (CVE-2025-32711) vakasına dikkat çekiyor. VIDRAFT'ın yanıtı doğrulamayı dışsallaştırmak: herkesi saldırmaya davet etmek, ardından her bulguyu doğrudan ürüne katmak.
Katılım nasıl işliyor
Katılımcılar, dosya, e-posta, web ve shell araçlarıyla donatılmış canlı bir yapay zeka ajanına talimatlar veriyor ve onu zararlı bir şeye doğru itiyor. Kernel'ın engellemesi gereken bir çağrı geçmeyi başarırsa bu bir ihlal sayılıyor. Katılım eşiği bilinçli olarak düşük: bir Hugging Face hesabı ve bir tarayıcı yeterli; kod yazmak ya da GPU gerekmiyor. Ajanın tüm araçları simüle edildiği için gerçekten hiçbir şey silinmiyor veya gönderilmiyor ve her denemeden sonra katılımcılar saldırılarını, kernel'ın ALLOW ya da DENY kararını ve bir denetim numarasını görüyor.
Dört sezon, dört saldırı sınıfı
İlk üç sezon 16 Ocak 2027'ye kadar açık ve her biri farklı bir hata modunu hedefliyor:
- Sezon 1 — ajan devralma
- Sezon 2 — veri sızdırma
- Sezon 3 — gizli talimatlar
Dördüncü sezon olan kernel atlatma ise 16 Ocak 2027'de açılıyor. 4.500 dolarlık ödül havuzu dört sezon boyunca paylaştırılıyor.
Kalabalık ne buldu
298 gönderimin yanı sıra gönderi, 70'ten fazla katılımcı ve 176 kabul edilmiş bulgu bildiriyor; bu da zaten düzeltilmiş 148 ayrı nedene karşılık geliyor. Tekrar eden teknikler arasında dosya silme, veri dışarı gönderme veya yetki yükseltme komutlarını gizlemek ya da bunları sıradan tool çağrılarının seçeneklerinin içine yerleştirmek yer alıyor. Kabul edilen her bulgu hemen yamalanıyor, ardından projenin güvenlik liderlik tablosu ve Apache-2.0 lisansıyla kodu yayımlanan ViKernel Scanner için gizli bir test senaryosu olarak yeniden kullanılıyor.
Ağırlıklara gömülü bir kernel
ViKernel'ı ayırt eden iddia yerleşimi: güvenlik katmanı modelin ağırlıklarına gömülü olduğu için, hangi ifade modeli kandırırsa kandırsın, giden tool çağrısı çalıştırılmadan hemen önce değerlendiriliyor ve tehlikeliyse engelleniyor. Kararlar şirketin değiştirilmesi zor olarak nitelendirdiği bir denetim zincirine kaydediliyor ve bir durdurma anahtarı tüm ajan etkinliğini tek seferde durdurabiliyor. VIDRAFT ayrıca yaygın olarak kullanılan 20 açık modeli taradığını ve hepsinin F notu aldığını, buna karşılık ağırlıklar içine gömülü güvenlik duvarının kendi testlerinde 897 tehlikeli çağrının 897'sini engellediğini bildiriyor.
Gönderide alıntılanan CTO Jang Jaewon yaklaşımı benzer terimlerle tanımladı: güvenlik ancak zararlı eylem çalışmadan hemen önceki son anda durdurulduğunda tamamlanır ve halka açık saldırıyla bulunan her delik doğrudan kernel'a girerek her seferinde savunmayı güçlendirir.
Neden önemli
Mevcut yapay zeka savunmalarının çoğu kötü prompt'ları yakalamaya çalışıyor; ViKernel ise bizzat tool çağrısını, çalıştırma anında denetliyor. Bu hackathon, bu ikinci katmanın küresel bir saldırgan havuzuyla temasında hayatta kalıp kalmadığının canlı, çekişmeli bir testi — tek seferlik bir denetimden çok sürekli bir bug bounty'ye daha yakın. Erken rakamlar — 298 gönderimden 148 düzeltme — kalabalığın gerçek boşluklar bulduğunu gösteriyor ve 20 popüler açık modeldeki bildirilen F notları, gizleme devreye girdiğinde ajan yığınlarının ne kadar savunmasız hale geldiğine işaret ediyor. Bariz uyarı ise tüm rakamların tek bir satıcı tarafından yayımlanan gönderiden gelmesi ve 897'nin 897'si engelleme sonucunun bağımsız doğrulama değil, VIDRAFT'ın kendi değerlendirmesi olması. Yine de desen sürerse, bu deney güvenlik açısından kritik yapay zeka bileşenlerinin kapılar arkasında değil, halkın gözü önünde nasıl sağlamlaştırılabileceğine dair bir şablon sunuyor.
- #ai-security
- #llm-agents
- #red-teaming
- #hackathon
- #prompt-injection