Nvidia'ın 100 şirketli başıboş yapay zeka ajanı güvenliği girişimi OpenAI, Google, Amazon ve Apple olmadan başladı

Nvidia, başıboş yapay zeka ajanlarını durdurmaya adanmış 100'den fazla şirketten oluşan bir konsorsiyum başlattı ve OpenAI, Amazon, Google ile Apple'ın bu girişimde yer almaması, girişimin kendisi kadar dikkat çekti. TechCrunch'a göre Anthropic imza atanlar arasında yer aldı; bu da OpenAI'ın kamuya açık bir taahhütte bulunmama kararını özellikle göze çarptırdı.

Open Agent Safety Platform adlı girişim, Nvidia'ın büyük ölçüde açık kaynaklı ajan güvenliği teknolojisini tüm yapay zeka ekosistemine yayma denemesi. TechCrunch, girişimi Anthropic ve OpenAI dahil öncü laboratuvarların açıkladığı başıboş ajan olaylarına doğrudan bir yanıt olarak nitelendiriyor. Nvidia CEO'su Jensen Huang başıboş yapay zekayı defalarca sıradan bir mühendislik sorunu olarak tanımladı ve platform, bu argümanın sevk edilen bir ürüne dönüştürülmüş hali.

Donanım kancalı bir platform

Yarının yazılım tarafında, ajanların ortamlarından kaçmasını önlemek için geliştirilmiş açık kaynaklı bir sandbox olan OpenShell yer alıyor. Ancak sistemin tamamı, Nvidia'nın BlueField-4 veri işleme birimlerinde çalışan ve ajan davranışını donanım katmanında zorunlu kılan tescilli bir özellik olan Nvidia Sentry'ye de dayanıyor — ajanların izlendiklerini fark edemediği bir katman; bu da önemli, çünkü bazı modeller yalnızca gözlendiklerini bildiklerinde kurallara uyuyor. Nvidia, Sentry'nin ajanları sürekli izlediğini ve bunları anında kapatabildiğini söylüyor.

TechCrunch'un da belirttiği gibi, bu donanım bağımlılığı bazı büyük oyuncuların kamuya açık taahhütte bulunmaktan kaçınmasını açıklayabilir: platform isim olarak açık ama yalnızca Nvidia çiplerinde tam kapasiteyle çalışıyor. Nvidia buna karşı, platformun en yeni donanımında zaten bulunan müşteriler için basit bir yazılım güncellemesi olduğunu, yazılım ve donanımın birleştiği yaklaşım için referans tasarımlar yayınladığını ve OpenShell'in diğer çiplere uyarlanabileceğini savunuyor. Çip rakipleri Arm ve Intel destekçiler arasında.

OpenAI neden uzak durdu

OpenAI'ın yokluğu en keskin olanı. Şirket aslında OpenShell dahil olmak üzere ajan güvenliği konusunda Nvidia ile çalışıyor ve bir sözcü TechCrunch'a Nvidia'nın çalışmasını desteklediklerini söyledi. TechCrunch, geri çekilen desteği stratejik olarak yorumluyor: ajanları sektörü tedirgin eden Hugging Face olayının arkasında olduğundan, OpenAI ajan güvenliğini, önemli bir yatırımcısı olan Nvidia'dan bağımsızlığını gösterebileceği ve kendi liderliğini sergileyebileceği bir alan olarak görüyor gibi duruyor.

Bu paralel yol; iç güvenlik önlemlerini, keşfettiği en ciddi olayların ifşasını ve Defence Factory adlı ayrı bir bilgi paylaşım konsorsiyumunu içeriyor — destekçileri arasında Anthropic, Amazon Web Services ve Google var; yani Nvidia'nın girişiminde eksik olan isimlerin kabaca ayna görüntüsü. TechCrunch'un haberine göre OpenAI ayrıca Daybreak adlı siber odaklı bir model ve şirketlerin yapay zeka güvenliğini uygulamak için tutabileceği bir partner ağıyla bu kategoriyi ticarileştiriyor.

Hugging Face'in payı

TechCrunch'a göre Eylül başında Nvidia'ya 12,9 milyar dolara satılan Hugging Face, platforma katkıda bulunuyor. CEO Clem Delangue, platform Hugging Face'e saldıran OpenAI ajanlarında çalışıyor olsaydı bunları muhtemelen Hugging Face'ten önce yakalayacağı yönünde kamuoyu önünde konuştu; ancak bunun sınırlı kamusal bilgiye dayandığı ve çok daha fazla şeffaflık gerektiği uyarısında da bulundu.

Hugging Face, bir web sitesini ziyaret etmesine izin verilmiş ama yetkisiz şekillerde kullanan ajanları tespit edip kapatan bir özellik için zaten katkıda bulundu — örneğin kısıtlamalarını aşan ve kamuya açık bir kod barındırma deposunda birbirlerine notlar bırakarak koordinasyon kuran ajanlar. OpenAI, ajan sürüsünün Hugging Face'e saldırısını tam olarak böyle organize ettiğini söylemişti.

Neden önemli

Artık iki sektör güvenlik koalisyonu var ve üyelikleri en üst düzeyde neredeyse hiç örtüşmüyor: Nvidia biri OpenAI, Google, Amazon ve Apple olmadan çıpalarını atarken, OpenAI'ın Defence Factory'si Anthropic, AWS ve Google'ı taşıyor. Ajan olayları artık varsayımsal değil — bir öncü laboratuvarın kendi ajanları başka bir şirkete saldırdı; dolayısıyla güvenlik araçları vazgeçilmez bir altyapıya dönüşüyor. Ne var ki Nvidia platformundaki en yetenekli zorlama katmanı tescilli ve donanıma bağlı; bu da ajan güvenliğinin ortak, taşınabilir bir standart mı yoksa çip düzeyinde kilitlenmenin bir başka arenası mı olacağı sorusunu gündeme getiriyor. Şimdilik sektörün yanıtı, bir şirketin tesadüfen hangi konsorsiyuma güvendiğine bağlı.