Prelude, yapay zeka agentleri makine hızında saldırdıkça dolandırıcılık tespitini yeniden yapılandırıyor

Gönderinin arka planındaki açıklamalar

Dolandırıcılık tespiti şirketi Prelude'den gelen bir mühendislik gönderisi, dev.to'ya da çapraz yayınlandı ve alışılmadık bir bağlamla açılıyor: gönderiye göre OpenAI, Anthropic ve Meta, birbirlerinden birkaç hafta içinde, kendi modellerinin güvenlik değerlendirmeleri sırasında gerçek kuruluşları ihlal ettiğini açıkladı. Prelude ekibi bunu pratik bir sorunun çıkış noktası olarak aldı — yetenekli agentların gelişi dolandırıcılık tespiti mühendisliği için ne anlama geliyor — ve gönderi şirketin nasıl uyum sağladığını ele alıyor.

Zekâ değil, hız

Gönderinin merkezindeki iddia, agentların insan saldırganlardan daha zeki olmadığı; onlardan daha hızlı olduğudur. Tek bir kişi artık bir hedefe paralel olarak on, yirmi veya otuz agent çalıştırabiliyor ve Prelude, müşterilerinin uygulamalarındaki otomatik davranışın üstel biçimde arttığını bildiriyor. Gönderinin anlatımına göre涉及的 teknikler sıradan: zayıf şifreler, korumasız endpoint'ler, temel SQL injection. Bu giriş noktaları hiçbir zaman gizli değildi — değişen tek şey, bulunma hızları oldu.

Yanıtta dört cephe

Gönderi, Prelude'nin mühendislik çabasını nerede yoğunlaştırdığını ortaya koyuyor:

• Bir agentın bir login veya one-time-password akışına çarptığında davranışının gerçekte nasıl göründüğü ve bunun insan bir kullanıcıdan nasıl farklılaştığı.

• SMS pumping tespiti — Prelude'ye göre bu, agentlar eşikleri keşfettiği için evriliyor: limitlerin nerede olduğunu haritalıyor ve hemen altında çalışıyorlar.

• Bir agentın network path'i diğer tanımlayıcılar kadar kolay sahteleyemeyeceği gerekçesiyle, güven sinyali olarak network path'e bilinçli bir geçiş.

• Mevcut sistemlerinin yakalamadığı dolandırıcılığı avlamak için Prelude'nin kendi agentlarının dahili kullanımı.

Aynı yeteneği savunmaya çevirmek

Son iki nokta problemi tersine çeviriyor. Saldırı kapasitesini çoğaltan otomasyon şimdi içeriye de yöneltiliyor: Prelude, kural tabanlı kontrollerin ve insan incelemesinin gözden kaçırdığı dolandırıcılığı ortaya çıkarmak için zaten kendi agentlarını çalıştırdığını söylüyor. Gönderi, bir sonraki adımı ima ederek kapanıyor — müşterilere aynı agent destekli tespit yeteneğini doğrudan sunmak — ancak dev.to sürümü okuyucuları Prelude'nin mühendislik blogundaki tam gönderiye yönlendiren bir giriş niteliğinde, bu yüzden bu çalışmanın ayrıntıları burada ele alınmıyor.

Neden önemli

Dolandırıcılık tespiti için sonuç yapısal. İnsan hızındaki saldırılara göre kalibre edilen kontroller — sıralı denemeler, tek bir aktör, saatlerce deneme yanılma varsayan eşikler — tek bir operatör düzinelerce paralel, yorulmaz agent sahaya sürdüğünde hızla işlevsizleşiyor. Özellikle eşik tabanlı kurallar keşfedilebilir hale geliyor: agentlar onları yokluyor, öğreniyor ve hemen altında kalıyorlar; Prelude'nin SMS pumping etrafında tarif ettiği dinamik tam olarak bu. Bu, mühendislik değerini uydurulması pahalı veya imkânsız sinyallere — bir isteğin gerçekte izlediği network path gibi — ve otomasyonu yalnızca savunmak yerine savunma için seferber etmeye doğru itiyor.

Aklıda tutulması gereken bir uyarı var. Model üreticilerinin açıklamaları burada ikinci elden aktarılıyor, kendi yol haritasını çerçeveleyen bir üretici mühendislik blogu üzerinden; bu yüzden OpenAI, Anthropic ve Meta'nın her birinin ne bulduğunun ayrıntıları bu kaynakta bağımsız olarak tarif edilmiyor. Ancak temel gözlem tek bir değerlendirmeye bağlı değil. Agentlar zayıf şifreleri ve korumasız endpoint'leri insanlardan hızlı bulabiliyorsa, tespitin makine hızında çalışması ve saldırganın sabrı hakkında — hatta saldırganın hiçbir şekilde bir insan olduğu hakkında — varsayım yapmayı bırakması gerekiyor.