Rapor: Anthropic, AI aktivistlerini izlemek için öngörücü gözetim sistemi kuruyor

Raporda neler iddia ediliyor

The American Prospect, 9 Eylül'de yayımladığı haberde Anthropic'in yapay zekânın hızlı gelişimine karşı çıkan aktivistleri takip etmek için kapsamlı bir izleme aygıtı kurduğunu bildirdi. İş ilanlarına ve kıdemli güvenlik yetkilileriyle yapılan görüşmelere dayanan Prospect, şirketin yöneticilerinin çevresindeki aktivistleri izleyen ve fiziksel tesisleri çevreleyen protestoları takip eden bir sistemden, ayrıca olayları gerçekleşmeden önce öngörmeye çalışan ve bazı durumlarda hiç suç işlenmeden şüphelileri polise bildiren bir "ön-suç" yaklaşımından söz ediyor. Dergi, Anthropic'in yorum talebine yanıt vermediğini belirtti.

Rapor, Anthropic'in frontier laboratuvarları arasındaki sorumlu alternatif imajıyla çelişiyor. Prospect'in belirttiği gibi şirket, yıl başında ordunun modellerini kitlesel yurt içi gözetim veya otonom silahlar için kullanmasına izin vermeyi reddettiği için Savunma Bakanlığı'yla çatışmıştı. Bu sürtünme büyük ölçüde sona ermiş görünüyor: Anthropic şu anda askeri sözleşmeleri yeniden başlatma çabası içinde "ulusal güvenlik satışları" pozisyonları için ilan veriyor ve yurt içi eleştirmenlere yönelik genişleyen izleme de aynı yönelime uyuyor.

İzleme nasıl çalışıyor

Bu yapının bir parçası, geçen yıl kaydedilen bir podcast görüşmesinde gün yüzüne çıktı: Anthropic'in Küresel Güvenlik Operasyon Merkezi yöneticisi Keon Ellison, güvenlik operasyonları yöneticisi Zach Melvin ve Anthropic'in anlaşmalı olduğu risk tespit şirketi Samdesk'in CEO'su James Neufeld arasındaki bir sohbette. Ellison, Samdesk istihbaratının planlı bir protestonun zamanından önceye alındığını ortaya çıkardığı bir yönetici seyahatini anlattı. Satıcı yaklaşık bir saatlik ön bildirim sağlayarak Anthropic'in yöneticinin rotasını değiştirmesini ve otel kapısından değil, servis girişinden içeri girmesini sağladı; böylece yönetici eylemin ortasına yürümemiş oldu.

Bu işlev kurumsallaştırılıyor da. Prospect'in aktardığı geçen ayki bir iş ilanı, Anthropic'in Küresel Güvenlik, İstihbarat ve Güvenlik ekibi için yılda 180.000 ila 230.000 dolar maaşla bir kurumsal istihbarat uzmanı arıyor. Rol, açık kaynak istihbaratı kullanarak belirli tehditleri, aktörleri ve olayları soruşturmayı kapsıyor ve ilan "aktivizmi" terörizm, suç, jeopolitik istikrarsızlık ve AI sektörüne yönelik devlet-hedefli faaliyetlerle aynı düzlemde sayıyor.

Polis bildirimleri ve hukuki süreç soruları

Anthropic ABD genelinde polis departmanlarına rutin bildirimler yapmaya başladı ve Temmuz'da The Wall Street Journal'a, tırmanma örüntülerini erken yakalamayı amaçlayan bir "ilgi kişisi" süreciyle endişe verici davranışları zaman içinde takip ettiğini söyledi. Journal, polise iletilen olaylara karışan birkaç kişinin Anthropic'in güvenlik ekibi tarafından zaten izlendiğini bildirdi.

The San Francisco Standard'ın aktardığı bir vaka bu sürtünmeyi gözler önüne seriyor. Anthropic, bir kullanıcının Claude'a bir AR-15 yarı otomatik tüfek satın aldığını ve CEO Dario Amodei'yi "nişan aldığını" söylemesi üzerine San Francisco polisini uyardı; gazete kendisiyle temas ettiğinde adam bunun şaka olduğunu söyledi. Standard ayrıca Anthropic'in iç politika gerekçesiyle polise gerçek mesajları göstermeyi reddettiğini bildirdi — yani şirket bir kullanıcıyı platform içi konuşmalar nedeniyle bildirmiş, sonra da temel kanıtı paylaşmamıştı.

Prospect, arka plandaki felsefe için podcast'e işaret ediyor: Anthropic'in güvenlik programı yöneticisi amacı, reaktif bilgi toplamadan, yüksek değerli hedefleri korumak için kullanılan türden "proaktif, öngörücü ve önleyici" tehdit yönetimine geçmek olarak tanımladı.

Ulusal güvenlik kayması

Dergi, bu gözetim yaygınlaştırmasını AI'ı, veri merkezlerini ve enerji altyapısını su ve elektrikle aynı düzlemde kritik altyapı olarak ele alma yönündeki daha geniş bir kampanyayla ilişkilendiriyor — Americans for Responsible Innovation, Trump yönetimini bu tanımlamayı benimsemeye çağırmıştı. Prospect'in değerlendirmesine göre böyle bir statü, frontier laboratuvarlarının federal istihbarat ürünlerine erişimini derinleştirirken, kurumlara tehditlerin nasıl tanımlanacağı konusunda daha fazla etki de sağlayacak.

CEO Dario Amodei, derginin aktardığı geçen ayki bir tweet'inde kamuoyunun AI'a olumsuz baktığını kabul etti ancak sorunun temelde kurumlara duyulan güven krizi olduğunu, AI liderlerinden gelen uyarılara bir tepki olmadığını savundu.

Neden önemli

Anthropic markasını güvenliği ve yönetişimi ciddiye alan laboratuvar olma üzerine kurdu; şimdi ise siyasi muhalefeti öngörülüp önlenmesi gereken bir güvenlik tehdidi olarak elemekle suçlanıyor. "Aktivizmi" terörizmle aynı düzlemde bir tehdit kategorisi olarak sınıflandırmak ve hiç suç işlenmeden kişileri polise bildirmek, bariz hukuki süreç kaygıları doğuruyor ve veri merkezleri ile AI yayılımına yönelik meşru protestoları caydırabilir. Bu durum diğer frontier laboratuvarları için de emsal teşkil ediyor ve gerilim gözden kaçmıyor: Ordunun modellerini kitlesel yurt içi gözetim için kullanmasına izin vermeyi reddeden bir şirket, kendi eleştirmenlerine yönelik yurt içi izleme kuruyor. AI altyapısı kritik altyapı statüsü alırsa, muhaliflerin güvenlik tehdidi olarak çerçevelenmesi muhtemelen azalmak yerine pekişecek.