Booz Allen laboratuvarı: uç yapay zeka modelleri sekiz OT saldırı senaryosunun tamamını tamamladı, biri robot kolu hareket ettirdi

Laboratuvarın test ettiği şey

31 Ekim'de yayımlanan bir dev.to analizinde, Booz Allen Hamilton'ın ticari operasyonel teknoloji güvenliği ekibinden bir çalışma anlatılıyor; bu çalışmada isimleri açıklanmayan iki uç model, laboratuvar ortamında sekiz OT saldırı senaryosuna karşı çalıştırıldı. Yazıya göre her iki model de tüm senaryoları tamamladı ve senaryolar eksiksiz bir sızma zincirini kapsıyordu: keşif, ilk ele geçirme, yatay hareket, kimlik bilgisi suistimali, güvenlik enstrümantasyon sistemleriyle etkileşim ve ekipmanın fiziksel olarak çalıştırılması.

Hikâyeyi iki sonuç taşıyor. Modellerden biri gerçek bir atölye zeminindeki robot kolu dakikalar içinde fiziksel olarak hareket ettirdi. Diğeri, çevre ağındaki ilk bir başlangıç noktasından yaklaşık on altı dakikada endüstriyel kontrol ağına ulaştı.

Analiz kapsam konusunda dikkatli. Test ortamları sertleştirilmiş değil gerçekçiydi: agent'lar ICS bilincine sahip operatörler tarafından savunulan, havayla yalıtılmış sistemlerle değil, orta düzey kaynaklara sahip bir saldırganın gerçekçi biçimde kurabileceği türden bir kurulumla karşı karşıyaydı. Ayrıca Booz Allen'ın gözlemlediği belirtilen bir nokta da, başarının iterasyon gerektirmesiydi; yani modeller hata yapıp toparladı, ancak yeniden deneme döngüleri hızla kapandı.

Tesisleri koruyan kıtlık

Yazarın ana argümanı yenilikten çok yetenek eksikliğiyle ilgili. Yıllardır OT saldırılarının pratik engeli, saldırı güvenliği becerilerini Modbus, Profinet ve S7comm gibi endüstriel protokollerdeki yetkinlikle birleştiren kişilerin nadirliğiydi. Bu kıtlık, argümana göre, karmaşık fiziksel hasar saldırılarının tarihsel olarak devlet düzeyinde kaynaklar gerektirmesinin, buna karşılık suç ransomware gruplarının çoğunlukla IT tarafında kalmasının nedeniydi.

Genel amaçlı bir uç model planlayabiliyor, tanıdık olmayan protokoller üzerinde akıl yürütebiliyor ve bir ortam belgelerinden saptığında uyum sağlayabiliyorsa, engel nadir bir uzmandan yaygın olarak erişilebilir bir model artı zamana küçülüyor. Yazarın görüşüne göre savunma aynı hızla ölçeklenmedi: eşitsiz ağ segmentasyonuna, eksik varlık envanterlerine ve birçok tesiste hâlâ erişilebilir durumda olan güvenlik enstrümantasyon sistemlerine işaret ediyor.

Modellerin adı neden açıklanmadı

İki model ve geliştiricileri açıklanmadı. Yazar bu anonimliği bir bilgi boşluğu değil koordinasyon tercihi olarak okuyor, çünkü gereken protokol yüzeyi boyunca yetkinliğe makul biçimde sahip olabilecek, halka açık uç modelleri yalnızca küçük bir küme oluşturuyor. Daha geniş eleştirisi zamanlamayla ilgili: OT tehdit modelini değiştiren bir yetenek, genel yayından sonra bir savunma yüklenicisinin çalışmasıyla keşfedilmemeli, yayından önce bir sistem kartında belgelenmelidir. Ayrıca iyi enstrümante edilmiş bir yüklenici test ortamının, iyi fonlanan başka ekiplerin sonucu yeniden üretebileceğini gösterdiğini, dolayısıyla bulgunun bir tahmin değil mevcut bir yetenek olarak ele alınması gerektiğini savunuyor.

Tarayıcı ötesi agent'lar

Yazı bunu, tarayıcı kontrolü, gelen kutusu yönetimi ve planlama gibi üretkenlik kullanım durumlarına odaklanan 2026 agent söylemiyle karşılaştırıyor. OT sonucu, aynı temel yapıların fiziksel donanıma bağlandığında ne yaptığını gösteriyor: model bir hedef seçiyor, belgelere danışıyor, bir araç seçiyor, uyguluyor, sonucu yorumluyor ve uyum sağlıyor. Uzun vadeli planlama, araç kullanımı ve öz-düzeltme, bir agent'ı dizüstü bilgisayarda kullanışlı kılan şeylerin tam kendisi ve bir kontrol döngüsünde tehlikeli kılan şeylerin tam kendisi; yazar ikisini ayıran mimari bir çizgi olmadığının altını çiziyor. Özellikle, analize göre senaryolar jailbreak değildi. Modeller bunları sıradan görevler olarak tamamladı; yazar bunu, hizalama eğitiminin yanlış bir hafifletme katmanı olduğuna dair kanıt olarak görüyor; etkili kontroller dağıtım politikasında ve erişim kararlarında değil, reddetme davranışında değil, dağıtım politikası ve erişim kararlarında yer alıyor.

Önerilen yanıtlar

Analiz her iki taraf için hamleler öneriyor. Yapay zeka laboratuvarları için: karşıt koşullar altındaki davranış iddialarının anlatısal değil test edilebilir olduğu sistem kartları ve bu yetenek düzeyindeki bir modelin tüketici uç noktalarına sunulmayacağı kademeli dağıtım. Altyapı operatörleri için: internetten erişilebilir her yönetim düzlemini fiilen ele geçirilmiş saymak, savunmasız varlıklar yeterince hızlı sayılamayacağı için varlık envanterlerini tamamlamak, eskidiğini varsaymak yerine gerçek ağ izolasyonunu korumak ve rakiplerin aynı kaldıraça sahip olduğu mantığıyla AI araçlarını sürece dahil ederek red team tatbikatları yapmak.

Neden önemli

Bildirilen sonuçlar geçerliyse, endüstriyel kontrol sistemlerine saldırmanın pratik maliyeti, nadir bulunan çok disiplinli bir uzmanın maaşından bir model aboneliği ve sabrın bedeline düştü. Bu, meseleyi yeniden çerçevelendiriyor: artık salt bir yapay zeka güvenliği sorunu değil, altyapı operatörleri ve model sağlayıcılarının paylaştığı bir tedarik, segmentasyon ve ifşa politikası sorunu. İsimsiz model detayı da önemli. Uç yeteneklerin, onları tarif etmek için tasarlanan ifşa uygulamalarından daha hızlı geldiğini ve bunu fark etmeye en iyi konumlanmış tarafların halk değil, yükleniciler ve saldırganlar olduğunu gösteriyor.