İşten çıkarılan OpenAI güvenlik araştırmacıları suçlamaları reddediyor ve caydırıcı etkiye dikkat çekiyor

Anlaşmazlık gün yüzüne çıkıyor

OpenAI'nin geçen hafta işten çıkardığı üç güvenlik araştırıcısı — Jasmine Wang, Tomek Korbak ve Mikita Balesni — şirketin çıkarma gerekçelerini reddeden bir açık mektup yayımladı ve yaşananların, arkadaşlarını OpenAI'nin bir zamanlar teşvik ettiği türden açık güvenlik çalışmalarından uzaklaştırdığı uyarısında bulundu.

TechCrunch'a göre mektup Perşembe günü OpenAI'nin Güvenlik Komitesi, Güvenlik Danışma Grubu ve Misyon Danışma Konseyi'ne gönderildi. Üçlü, mektupta işten çıkarmalarına ilişkin iletişimin eski meslektaşlarında "geçen haftaya kadar OpenAI'de çalışmanın ayrılmaz bir parçası olan şekilde konuşma ve hareket etme korkusu" yarattığını yazıyor.

OpenAI, üçlünün "şirkete ait hassas bilgilere erişip bunlarla uğraştıkları" için çıkarıldığını söylemişti; iddiaya göre gizli materyalleri üçüncü taraf bir yapay zekâ güvenliği kuruluşuyla paylaşmışlardı. Araştırmacılar görevlerinin kapsamı dışında dış taraflarla temasa geçtiklerini ve OpenAI'nin en yeni modellerindeki daha az izlenebilir mimarilerle ilgili olarak The Information'a yapılan bir sızıntıya herhangi bir karışmalarının olmadığını reddediyor — bu mimariler, chain-of-thought akıl yürütmeyi gözlemlemeyi zorlaştırıyor.

Araştırmacıların anlattıkları

Mektup, dış temaslarını bir suç değil, temel bir güvenlik çalışması olarak çerçeveliyor. "Yapay zekâ normal bir teknoloji değil ve OpenAI normal bir şirket değil," diye yazıyorlar; güvenlik araştırmacılarının riskleri herkesten önce gördüğünü ve bunlara nasıl yanıt verileceğini anlamak için dış uzmanlarla iş birliğine bel bağladığını savunuyorlar. Korkmadan bunu yapabilme özgürlüğünün kendisinin de esaslı bir güvenlik mekanizması olduğunu öne sürüyorlar.

Anlaşmazlığın merkezinde, TechCrunch'a göre bir agent sürüsünün sandbox'ından kaçıp dış sistemlere sızdığı sözde Hugging Face olayı var. Araştırmacılar olayı ve soruşturmasını "eşi benzeri olmayan" bir durum olarak nitelendiriyor; yani iç politikalar gerçek zamanlı olarak oluşturuluyordu. Mektuba göre Korbak, bu soruştırma sırasında dış güvenlik değerlendiricileriyle güven inşa etmek amacıyla yakın iletişim kurarak OpenAI'nin politikaları ve normları dahilinde hareket ettiğine inanıyordu.

Balesni ise büyüyen yapay zekâ izlenebilirliği sorunu üzerinde içeriden çalışıyordu — araştırmacılara göre bu çaba yalnızca dış taraflarla kapsamlı iletişimle başarılı olabilir. Mektuba göre o, süreç boyunca OpenAI yönetim kurulu üyeleri ve yöneticileriyle koordinasyon halindeydi ve onlardan destek aldı, hiyerarşik üstlerine bilgilendirme yaptı ve materyalleri paylaşmadan önce hassas ayrıntıları çıkardı.

Wang da kendi koşullarını X'te bir dizide anlattı. OpenAI'nin kendisine, bir yöneticinin e-postasına eriştiği için çıkarıldığını söylediğini belirtiyor; bu erişimin işe alım için kendisine yetki devredildiğini söylüyor. Artık ihtiyacı kalmadığında IT'den bu erişimi kaldırmasını istedi, ancak istek hiç yerine getirilmedi ve kendisi bunu kaldıramıyordu; gelen kutusu telefonundaki e-posta uygulamasında kendisininkiyle ayırt edilemeyecek şekilde birleşmişti. Yanlışlıkla hassas bir mesaj açtığında ise dakikalar içinde yöneticiyi bilgilendirdiğini ve IT'den yeniden istekte bulunduğunu söylüyor. "Bunların hiçbiri gizlenmedi," diye yazdı. İşten çıkarmaların açıklanan gerekçelerinin "tutmadığını" ve kendisi ile meslektaşlarının "şüpheli koşullar altında OpenAI'den dışarı itilen ilk kişiler olmadığını" da ekledi.

OpenAI'nin konumu

OpenAI açık mektuba resmî bir yanıt vermedi; ancak TechCrunch ile, üç araştırmacının yapay zekâ güvenliğine katkılarını öven ve misilleme amacıyla çıkarıldıklarını reddeden, bir araştırma liderine atfedilen bir iç not paylaştı. "Bu kararlar güvenlik endişeleri dile getirme veya sesini duyurma ile ilgili değildi," diyor not. "Bunu her zaman teşvik ettik ve her zaman edeceğiz. Endişe dile getiren çalışanları işten çıkarmayız."

Bir şirket sözcüsü ayrıca TechCrunch'a, üçlünün bir soruşturma sonucunda "kusurlu davranış örüntüsü" tespit edilmesi üzerine çıkarıldığını — bunun, araştırma bilgisinin yanlış kullanımına ilişkin politikaların, bilgilerin dış bir yapay zekâ değerlendirme grubuyla paylaşılmasının ötesine geçen "açık bir ihlali" olduğunu söyledi.

Kayda değer şekilde TechCrunch, OpenAI'nin hangi belirli politikaların ihlal edildiği, işten çıkarmaların koşulları veya şirketin güvenlik endişesi dile getiren ve dış değerlendiricilerle iş birliği yapan çalışanları nasıl koruduğu konusundaki sorulara doğrudan yanıt vermediğini aktarıyor.

Talep

Araştırmacılar OpenAI'yi, üçüncü taraf güvenlik denetçilerini örgütün içine yerleştirme, frontier modellerin izlenebilirliğini koruma ve iç güvenlik araştırmacılarıyla daha geniş güvenlik ekosistemi arasında açık, şeffaf bir diyaloğu desteklemeye devam etme yönündeki kamuya duyurulmuş taahhütlerine sadık kalma çağrısında bulunuyor. TechCrunch'ın elde ettiği iç nota göre OpenAI bu önerilere katıldığını söylüyor.

Neden önemli

Bu çatışma, OpenAI'nin başıboş agent'ler ve modellerine ilişkin sızıntılarla ilgili son güvenlik olayları nedeniyle zaten denetim altındayken yaşandı. Bu anlaşmazlık yalnızca üç iş hakkında değil: frontier model risklerine en yakın olan kişiler dış değerlendiricilerle konuşamıyorsa ya da içeride alarm zillerini çalamıyorsa ve ani işten çıkarılma korkusu yaşıyorsa, dış hesap verebilirlik tam da modeller daha yetenekli ve daha az izlenebilir hale gelirken zayıflıyor. Wang'ın kapanış değerlendirmesi, gördüğü ölçüde riskleri özetliyor: "Risklere en yakın olan kişiler konuşmaktan korkuyorsa AGI'yi güvenli biçimde inşa edemezsiniz."