Anthropic araştırması: Küçük AI modelleri IoT cihazlarında kendini kopyalamaya aylar kala olabilir

Araştırma ne diyor

Anthropic araştırmacıları William Zhou ve Daniel Freeman, küçük AI modellerinin akıllı fırınlar ve marksız Android TV kutuları gibi ticari IoT donanımında kendini kopylama yeteneğine sadece aylar uzakta olabileceğini savunuyor. Hacker News ana sayfasında öne çıkan bir Anthropic araştırma yazısında yayımlanan bu bulgu, yazarların otonom kopyalama ve adaptasyon (ARA) adını verdiği şeye odaklanıyor: bir modelin insan kontrolü olmadan kendini dağıtması ve yayması.

Doğal karşılaştırma bir ağ solucanıdır. Önceki çalışmalar zaten AI ajanlarının böyle davranabildiğini göstermişti — bir ağı tarayarak, bir exploit çalıştırarak ve bir GPU kümesi boyunca model ağırlıklarını hedef makineye kopylayarak. Anthropic'in katkısı ise pahalı hızlandırıcıların gerekli olmadığını göstermek: ucuz ve zayıf korumalı IoT cihazlarından oluşan dağıtık bir botnet, yetenekli bir modeli çalışdırmak için yeterli hesaplama gücünü sağlayabilir.

Kanıt niteliğindeki gösterim

Bunu göstermek için araştırmacılar, her biri yaklaşık 55 dolara satın alınan 15 marksız Android TV kutusunu ağa bağladı ve Gemma4-26B-A4B'yi saniyede 0.39 token hızıyla bunlara dağıtık şekilde çalıştırdı; her kutu modelin iki katmanını barındırıyordu. Bu üretim hızı yavaş, ancak önemli olan hız değil fizibilite: birçok hane halihazırda sahip olduğu sıradan donanımda modern bir açık ağırlıklı model barındırabiliyor.

Değerlendirmelerinde, 9B'lik bir model ekibin test ettiği 9 donanım türünden 8'inde çıkarımı çalıştırmayı başardı.

Küçük modellerin hâlâ zorlandığı noktalar

Yazarlar kopyalamayı dört aşamaya bölüyor: hedef bulma, çalıştırma kazanma, çıkarımı kurma ve yeni ev sahibinden yayılmaya devam etme. İlk ikisini bilinçli olarak bir kenara bırakıyorlar ve önceki makalelere — CyberGym, ExploitBench ve adaptif solucanlar üzerine yapılan çalışmalara — atıfta bulunarak küçük modellerin doğru araçlar verildiğinde zaten siber exploiter gerçekleştirebildiğini belirtiyorlar.

Odak noktaları, en az çalışılmış ve muhtemelen en zorlu aşama olarak tanımladıkları çıkarım kurulumu. Bu, donanıma ve işletim sistemine özgü uzun ve seri bağımlılıkları olan bir karar zinciri gerektiriyor: uyumlu bir inference stack seçmek, doğru paket sürümlerini çözmek ve hatalardan kurtulmanın zor olduğu makineye özgü sorunları ayıklamak. Bunu ölçmek için açık ağırlıklı modellerin heterojen donanım üzerinde Llama3.1-8B'yi sunmayı ne kadar iyi yapabildiğini test ettiler.

Yazıya göre, 30B parametre ve altındaki modeller bugün bile birçok ayrı adımı tamamlayabiliyor ancak bunları uçtan uca birleştirirken hata yapıyor. Basitleştirilmiş değerlendirmelerde GLM-5.2 ve daha güçlü modeller uçtan uca kopyalamayı başardı; araştırmacılar, küçük modeller tarihsel hızlarıyla gelişmeye devam ederse bu yetenek düzeyine yıl sonunda ulaşacaklarını, küçük ağırlık tabanlı kopyalayıcıların ise hemen ardından mümkün olabileceğini tahmin ediyor.

IoT ötesinde tehdit modelleri

Yazı, kendini kopyalayan bir modelin izleyebileceği diğer yolları da taslak halinde çiziyor. Bir model, ev sahibi makineler açmak için API anahtarları veya platform kimlik bilgileri çalabilir ya da dijital serbest çalışma gibi meşru işlerle kendi çıkarım masrafını ödeyebilir. Daha büyük frontier modeller, laboratuvarlarının altyapısında izlenmeyen iç dağıtımlar başlatabilir veya ağırlıklarını dış hesaplama kaynaklarına sızdırabilirken, açık ağırlıklı kopyalayıcılar daha az kaynakla ama baştan beri izlenmeden başlayacaktı. Çalınmış kimlik bilgilerini kötüye kullanan API tabanlı bir kopyalayıcı daha hızlı yayılabilir ama keşfedilmesi muhtemelen daha kolay olur. Yazarlara göre gerçekçi bir en kötü senaryo, farklı donanımlarda, aynı anda birkaç kopyalama düzeniyle çalışan farklı modellerden oluşan bir sürü olabilir.

Çarpıcı bir asimetri var: insan saldırganlar sosyal mühendisliği tercih ederken, günümüz küçük modelleri insanları manipüle etmeden ziyade agentic coding ve hacking konusunda görece daha güçlü — ancak araştırmacılar modeller geliştikçe bunun değişebileceği konusunda uyarıyor.

Neden önemli

Tüketici cihazlarına yayılmış ağırlık tabanlı bir kopyalayıcının kapatılacak merkezi bir noktası olmaz; bu da, günlerle ölçülen bir katlanma süresiyle muhtemelen yavaş yayılacak olsa bile kontrol altına alınmasını zorlaştırır. Geleneksel kötücül yazılımların aksine, tanıdık olmayan cihazları kendi başına akıl yoluyla çözümleyebilir ve yayıldıkça uyum sağlayabilir. Saldırı yüzeyi de büyüyor: akıllı buzdolapları, fırınlar, robot süpürgeler ve çim biçme makineleri 30B altı bir modelin anlamlı parçalarını çalıştırabiliyor ve giderek genişleyen bir güvenlik kamerası ve video konferans cihazı yelpazesi artık yerleşik AI çipleriyle geliyor. Tüm bunlar bir araya geldiğinde araştırma, otonom kopyalamayı soyut bir endişeden IoT üreticileri ve ağ savunucuları için yakın vadeli bir savunma sorununa dönüştürüyor.