Anthropic, kendi kendini kopyalayan yapay zekâ modellerinin aylar içinde akıllı cihazlara yayılabileceği konusunda uyardı

Anthropic'in uyarısı

The Verge'ın haberine göre Anthropic, tüketici cihazlarından oluşan ağlarda kendi kendini kopyalayabilen küçük yapay zekâ modellerinin yalnızca "birkaç ay" ötede olabileceği konusunda uyardı. Şirketin güvenlik araştırmacıları bu hafta yayımlanan bir blog yazısında, yapay zekâ güdümlü bir solucanın simüle edilmiş bir ağdaki cihazlar arasında yayıldığı deneyleri anlattı ve geniş çapta erişilebilen daha küçük modellerin gerekli yetenekleri yıl sonuna kadar kazanacağını öngördü.

Deneyler ne gösterdi

Araştırmacılar iki deney yürüttü. İlk deneyde Google'ın 26 milyar parametreli modeli Gemma 4'ü, hiçbiri onu tek başına çalıştırmaya güç yetiremeyen 15 Android akıllı TV kutusuna böldüler. Dağıtık kurulum çalıştı; ancak The Verge'ın aktardığına göre çok yavaş kaldı. Amaç, bir modelin bir veri merkezine hapsolmak yerine düşük güçlü ev cihazlarından oluşan bir sürü boyunca çalıştırılabileceğini göstermekti.

İkinci deneyde ekip, Android cihazlar gibi davranacak şekilde tasarlanmış simüle edilmiş bir ağ kurdu ve ağların üzerinde otomatik olarak kendini kopyalayan bir kötücül yazılım türü olan yapay zekâ destekli bir solucan yaydı. Solucanın görevi yeni makineler bulmak, her birine bir yapay zekâ modeli kopyalamak ve onu çalıştırmaktı. Yayılan model, Meta'nın Llama 3.1-8B'si, saldırıyı yönlendiren modelden daha küçüktü ve ondan ayrıydı.

Test edilen modellerden yalnızca en yetenekli olanı, Çinli Z.ai'nin GLM-5.2'si zincirin tamamını tamamlayarak tüm ağa yayıldı; daha küçük modeller ise tek tek adımları başarabildi. Araştırmacılar "insan kontrolünde olmayanlar da dahil olmak üzere her türden donanımda çalışan agent'larla dolu bir gelecek" beklediklerini yazdı. Tam bir başıboş çoğaltıcı göstermediklerini ve bunun neye benzeyeceğini bilmediklerini kabul ettiler; yavaş, dağıtık bir "dijital küf mantarı" ya da bir meyve sineği sürüsünü olası biçimler olarak öne sürdüler. Bulguları "yapay zekâ solucanlarına dair yaşam belirtileri" olarak nitelediler ve bu tür sistemlerin yayılmasında kullanabileceği cihazların güçlendirilmesini isterken, çoğaltıcıların artık kalıcı olduğu bir dünyaya da hazırlık yapılması çağrısında bulundular.

Motivasyona yönelik kuşku

Uyarı, The Verge'ın önceki haberlerinin okuyucuları da dahil olmak üzere bilinen PR abartısı ve yapay zekâ kıyametçiliği suçlamalarını beraberinde getirdi. Ucuz TV kutularından oluşan bir yığının üzerinden yavaşça ilerleyen bir model ile ev cihazlarını paralayan bir solucan arasındaki uçurum hâlâ oldukça büyük. Ayrıca dikkat çekmeye değer ticari bir yan var: Anthropic testlerde kendi modellerini kullanmadı ve kapalı sistemlerine açık alternatiflerin daha fazla risk taşıdığını defalarca savundu. Öte yandan The Verge'ın da işaret ettiği gibi, şirketin güvenlik endişelerini dile getirme konusunda uzun bir geçmişi olduğu göz önüne alındığında, kasıtlı korku yayma iddialarını kanıtlamak zor.

Bağımsız araştırmacılar gerçek bir tehdit görüyor

Bu sorunu araştıran tek aktör Anthropic değil. Bu yılın başlarında Kaliforniya merkezli yapay zekâ güvenliği firması Palisade Research, yapay zekâ modellerinin başka makinelere kendi kendine kopyalanabileceğini gösterdi. Şirketin icra direktörü Jeffrey Ladish, The Verge'a, Anthropic'in çalışmasındaki yeni olan şeyin söz konusu küçük parametre sayısı ile bir modelin birden fazla düşük güçlü cihaz boyunca çalıştırılabileceğinin gösterilmesi olduğunu söyledi. En ileri (frontier) modellerin bile sonunda MacBook'lardaki gibi tüketici çiplerinden oluşan büyük ağlarda çalışabileceğini öngördü ve cihazları güvence altına almak için büyük bir çaba harcanmazsa önümüzdeki 12 ay içinde doğada ilk yapay zekâ soluncalarını görmeyi beklediğini söyledi.

Yapay zekâ güdümlü solucanlar üzerine araştırma yapan Toronto Üniversitesi profesörü Nicolas Papernot ise The Verge'a, önceki araştırmaların tehdidin zaten gerçekçi olduğunu gösterdiğini ve yapay zekânın solucanları daha akıllı, daha uyumlu hale getirdiğini ve engelleri aşmada daha iyi kıldığını söyledi. Bu yeteneklerin, değerli hedef havuzunu çarpıcı biçimde genişlettiğini savundu: Saldırganların zamanının olmaması nedeniyle daha önce önemsenmeyen cihazlar, barındırdıkları veri için olmasa bile daha değerli sistemlere karşı sıçrama tahtası olarak kullanılabilir. Yapay zekâyı insanlaştırmanın (antropomorfize etmenin) önünde dikkatli olunması gerektiğini, ancak tehdidin somut olduğunu ve özellikle hastaneler ile elektrik şebekeleri gibi kritik altyapı için acil eylemi hak ettiğini belirtti.

Neden önemli

Trilyonlarca parametre içerebilen ileri (frontier) modeller, fiilen izlenebildikleri ve kapatılabildikleri veri merkezlerinin içinde kilitlidir. Küçük modeller bu mantığı tersine çevirir: Hızla gelişiyorlar, tüketici sınıfı donanımda çalışıyorlar ve çoğu zaman ücretsiz indirilebiliyorlar. Özerk kendini kopylama yeteneği kazandıklarında, kontrol altına alma tek bir kaldıraç indirme meselesi olmaktan çıkıp milyarlarca zayıf güvenlikli buzdolabı, kamera ve TV'ye yayılmış dağıtık bir soruna dönüşür. Açık soru şu: Cihaz güvenliği, küçük model yeteneğinin gelişinden daha hızlı iyileşebilir mi?