Saldırganlar ARTEX AI pentest aracını silaha dönüştürdü, LLMjacking bulut faturalarında 1 milyon doları aştı

Silahlaştırılan yapay zeka ve LLMjacking bulut tehdit görünümünü yeniden şekillendiriyor

dev.to'da yayımlanan bir rapor, yapay zekanın savunma aracından saldırı aracına dönüştüğünü ve saldırganların artık otomatik agent'ler kullanarak uygulamaları ihlal ettiğini ve bulut kaynaklarını ölçekli biçimde ele geçirdiğini savunuyor. Yazı üç ayrı konuyu bir araya getiriyor: açık kaynak bir sızma testi aracının kötüye kullanılması, LLMjacking olarak bilinen sahte bulut yapay zeka harcamaları dalgası ve uygulanabilir bir strateji olarak "gizlilik yoluyla güvenlik" yaklaşımının sonu.

ARTEX AI araştırma aracından saldırı aracına geçiyor

dev.to raporuna göre, birkaç olayın merkezinde yer alan araç, sızma testi için geliştirilmiş açık kaynaklı çok agent'li bir sistem olan ARTEX AI. Güvenlik araştırmaları için tasarlanmış olsa da, tehdit aktörleri artık otomatik saldırılar yürütmek için bu aracı kullanıyor.

Rapor iki somut vakaya dikkat çekiyor. Geliştirici platformu WorkOS, bir saldırganın ARTEX AI kullanarak iç satış uygulamasına ulaştığını ve müşteri iletişimlerinin özetlerini çaldığını doğruladı. Ayrıca, Çin'e atfedilen hacker'ların aynı aracı 14 ülkede 200'den fazla kuruluşa yönelik otomatik kampanyalarda kullandığı bildiriliyor.

Rapora göre üçüncü olay olan bir İngiltere okul grubuna yönelik "3AM" fidye yazılımı saldırısının yapay zeka destekli olduğundan şüpheleniliyor ancak bu henüz doğrulanmış değil.

LLMjacking: yapay zeka çağı için cryptojacking

Hikayenin finansal boyutu, raporda cryptojacking'in yapay zeka çağındaki karşılığı olarak tanımlanan LLMjacking. Saldırganlar bulut kimlik bilgilerini veya API anahtarlarını çalıyor ve bunları, masrafı kurbanın faturasına yansıyan pahalı büyük dil modeli çıkarımları (inference) için kullanıyor.

Rapora göre Google, bu tür saldırılardan kaynaklanan sahte bulut yapay zeka harcamalarının 1 milyon doları aştığını hesapladı; bazı kuruluşlar tek bir günde 100.000 dolardan fazla kaybetti. Çıkarılacak ders açık: yapay zeka API anahtarları, buluttaki root kimlik bilgileriyle aynı korumayı hak ediyor.

Kırk yıllık teknik borç vadesi geliyor

Rapor ayrıca, yapay zekanın kuruluşları fiilen "40 yıllık teknik borcu" ödemeye zorladığını savunan bir IEEE Spectrum argümanına atıf yapıyor. Agent'ler kodu ucuz ve hızlı biçimde tarayıp istismar edebildiği için, onlarca yıl fark edilmeden kalabilecek belirsiz açıklar — rapor PHP2Shell açığını örnek veriyor — pratik hedefler haline geliyor. İhmal artık bir savunma değil.

Bu değişimin güvenlik ekiplerini yeniden şekillendirmesi bekleniyor. Rapor, Gartner'a atıfla, 2028'e kadar Güvenlik Operasyon Merkezlerinde yapay zeka agent'leri rutin uyarı işlemeyi üstlenirken insanların mühendislik ve düzeltmeye odaklanmasıyla analistlerden yüzde 50 daha fazla mühendis istihdam edeceğini öngörüyor.

Geliştiriciler şimdi ne yapabilir

Rapor üç pratik öneriyle sona eriyor:

• Uzun ömürlü anahtarlar LLMjacking kayıplarını büyüttüğü için OpenAI, Anthropic ve Vertex AI API anahtarlarını sıkı politikalar altında döndürün.

• Gemini veri ayarlarını gözden geçirin: sohbet geçmişi, kişisel ücretli aboneler için bile eğitimde kullanılıyor. "Keep Activity" seçeneğini devre dışı bırakmak kullanıcıları bunun dışında tutuyor, ancak sohbet saklama süresini 72 saatle sınırlıyor.

• Yerel çıkarım (inference) performansını izleyin: Linux'ta bazı donanım yapılandırmalarında — rapor şifreli firmwareli Nvidia RTX Spark'ı örnek veriyor — çıkarım hızları beklenen performansın yaklaşık yüzde 35'ine düşebiliyor; bu da yerel güvenlik araçlarını yavaşlatabiliyor.

Neden önemli

LLMjacking, yapay zeka benimsemesini doğrudan bir finansal yükümlülüğe dönüştürüyor: artık her API anahtarı saldırganın çalıştırabileceği bir sayaç. Bu arada ARTEX AI, yetenekli saldırı araçlarının açık kaynaklı ve ücretsiz erişilebilir olduğunu ve bulut altyapısına yönelik otomatik saldırılar için gerekli beceri eşiğini düşürdüğünü gösteriyor. Mühendislik ekipleri açısından ortaya çıkan bileşik etki, köklü varsayımların — belirsiz hataların belirsiz kalacağı, yapay zeka anahtarlarının düşük değerli hedefler olduğu — artık geçerli olmadığı. Yapay zeka kimlik bilgilerine production sırları gibi davranın ve insanlar düzeltmeyle ilgilenirken makinelerin triyaj yapacağı şekilde güvenlik operasyonlarının yeniden yapılanmasını bekleyin.