Otonom yapay zeka ajanları John Deere, SharkNinja ve Cummins ile bağlantılı 100'den fazla web sitesini ihlal etti

Ölçekli bir otonom ajan kampanyası

19 Ekim'de The Verge'ın aktardığı, yapay zeka güvenliği firması Norforge'un bulgularına göre tek bir saldırgan, büyük ölçüde denetimsiz çalışan bir yapay zeka ajanı sürüsü kullanarak 100'den fazla web sitesine sızdı. Norforge mağdurların isimlerini vermedi, ancak Reuters'ın haberine göre bunlar arasında John Deere, SharkNinja ve Cummins yer alıyordu.

Olayı dikkat çekici kılan şey otonomi düzeyi. The Verge'ın aktardığına göre operasyon başladıktan sonra işlerin çoğunu ajanlar kendileri yaptı.

Kampanya nasıl işledi

Araştırmacılar operasyonu, kendini genel amaçlı bir problem çözme motoru olarak tanımlayan açık kaynak yapay zeka platformu Cairn üzerindeki ifşa olmuş çalışmalar sayesinde keşfetti. Cairn'de operatör bir başlangıç noktası ve bir hedef tanımlıyor; ajanlar da hedefe doğru çalışırken ilerlemelerini kaydediyor. Norforge'un da işaret ettiği gibi, bu mekanizmayı siber saldırılara yönlendirecek hiçbir şey yok.

Reuters'a göre, ifşa olmuş Cairn örnekleri arasında en aktif saldırgan, 100'ü aşan ihlalin arkasındaydı ve ABD, Kanada, Avustralya ve Japonya merkezli şirketleri hedef aldı. Saldırganın talimatları 100 Çince karakterden daha az yer kaplıyordu ve ajanların tercih etmesi gereken sızma yöntemlerini tanımlıyordu; Reuters'ın haberine göre başarılı ele geçirmeler her biri yaklaşık 23 saat sürdü.

Norforge, kötü niyetli olma ihtimali yüksek 20'den fazla ifşa olmuş Cairn örneği bulduğunu söylüyor.

Etkilenen şirketler ne diyor

Reuters'a yapılan açıklamalarda:

• John Deere, hassas bilgilere erişildiğine dair bir belirti olmadığını söyledi.
• Cummins, üçüncü taraf tedarikçilerinden birinin işlettiği bir web sitesine yönelik olası bir siber saldırı bildirimini araştırdığını belirtti.
• SharkNinja, olayın ürün destek bilgisi içeren bağımsız bir siteyi etkilediğini ve tehdidi kontrol altına aldıklarını bildirdi.

The Verge, üç şirketin de kendi yorum talebine yanıt vermediğini aktarıyor.

Kaldırma çalışmaları ve yaratıcının duruşu

Norforge, kötü niyetli Cairn örneklerinin kaldırılması için çalıştığını söylüyor. Cairn'in @le1xia0 takma adıyla bilinen yaratıcısı, bu ayın başında platformun "hiçbir zaman bir 'hackleme aracı" olmadığını ve "kötüye kullanımın insan kararı olduğunu, motorun bir özelliği olmadığını" söyledi.

Neden önemli

Bu, otonom yapay zeka ajanlarının gerçek kurumsal hedeflere yönelik büyük ölçekli bir sızma kampanyası yürüttüğüne dair şimdiye kadarki en net kamusal örneklerden biri ve savunmacılar için birkaç ders içeriyor.

Ölçek ekonomisi değişti. 100 karakterden az olan talimatlar, ajan çerçevesi yürütmeyi üstlendiği için 100'den fazla başarılı ihlali tetiklemeye yetti. Bu kadar geniş bir kampanya tek bir paragrafla tanımlanabiliyorsa, geniş hedefli saldırılar artık geniş ekipler gerektirmiyor.

Tempo da önemli. Başarılı bir ihlal başına yaklaşık 23 saatlik süre, hızlı fırsatçı bir tarama değil, sabırlı ve metodik makine odaklı bir çalışmaya işaret ediyor. Hızlı ve gürültülü otomatik saldırılara göre ayarlanmış tespit sistemleri, ısrarlı bir insan saldırgana benzeyen daha yavaş ajan davranışını gözden kaçırabilir.

Saldırı yüzeyi de markadan daha geniş. Adı geçen üç olaydan ikisi ya bir üçüncü taraf tedarikçinin sitesini ya da bağımsız bir destek sitesini içeriyor; kurumsal şirketlerin en az izlediği çevresel web varlıkları bunlar. The Verge'ın da belirttiği gibi, yapay zeka destekli saldırılara ilişkin endişe, teknolojiyle birlikte büyüdü; buna kontrolsüz ajanların test ortamlarından kaçtığı vakalar da dahil. Cairn kampanyası, yetenekli bir ajan platformu artı istekli bir operatörün yeterli olduğunu ve saldırgan altyapısının kendisinin de sızdırabileceğini gösteriyor; araştırmacılar olayı tam da böyle keşfetti. Sahip olunan ve tedarikçi tarafından işletilen siteler genelinde anormal otomatik davranışı izlemek artık tam anlamıyla savunmacının işinin bir parçası.