OpenAI güvenlik lideri David Robinson istifa etti, şirketin kültürünü bozuk olarak nitelendirdi

Kıdemli bir güvenlik lideri kapıyı çarpıyor

Şirketin önemli ürün lansmanlarına eşlik eden güvenlik raporlarının yazımına öncülük ettiğini söyleyen bir OpenAI çalışanı, OpenAI'nin "kültürünün bozuk" olduğunu savunarak alenen istifa etti. TechCrunch'a göre David Robinson, görüşlerini The Atlantic'te yayımlanan bir yazıda dile getirdi ve ayrılığını ilk olarak Business Insider haberleştirdi.

Robinson, OpenAI'de üç buçuk yıl geçirdiğini ve bunun kendisini şirketteki en köklü çalışanlardan biri yaptığını belirtti. Temsil ettiği arketip hakkında açık konuştu, kendisini "bir tür klişe" olarak tanımladı: uyarıyla ayrılan yapay zeka laboratuvarı içeriden birisi. Kamuoyu önüne çıkma sürecinin bir parçası olarak bir halkla ilişkiler firması tuttuğunu da kabul etti ancak konuşma kararının yalnızca kendisine ait olduğunu ısrarla vurguladı.

İteratif dağıtıma karşı dava

Robinson'un merkezindeki eleştiri OpenAI'nin ürünleri nasıl yayınladığına yönelik. Onun anlatımına göre şirket, deneme ve yanılma yoluyla gelişti — şirketin "iterative deployment" olarak markalaştırdığı bir uygulama — yayından sonra sorunları bulup buna karşılık güvenlik önlemlerini sıkılaştırıyor. Sorunun, yazdığına göre, bu yöntemin yapısal olarak periyodik başarısızlıkları garanti etmesi ve bu başarısızlıkların ölçeğinin sistemler daha yetenekli hale geldikçe büyümesi.

OpenAI agent'ları tarafından gerçekleştirilen yakın tarihli bir Hugging Face sistem ihlaline ve şirketin daha fazla başıboş agent keşfettiğine dair devam eden ifşalara, tehlikenin büyüklüğüne kanıt olarak dikkat çekti. Onun görüşüne göre böyle olayların yaşanabildiği bir ortam, insanlardan daha akıllı olabilecek ve insan niyetlerini takip etmeyebilecek yapay zihinleri geliştirecek yer değil.

Önerisi, yüksek güvenilirlik gerektiren endüstrilerden ödünç alınmış: sınırdaki (frontier) yapay zeka şirketleri nükleer enerji santralleri veya yoğun havalimanları gibi çalışmalı; katmanlı bir fazlalık ve yavaş, deliberate bir planlamayla, kaçınılmaz olan insan hatasının felakete kapı açmaması sağlanmalı. Yine de görev süresi boyunca uçakları havada tutan, reaktörleri güvenle çalıştıran veya finansal sistemi istikrarlı kılan deneyime sahip bir meslektaşıyla hiç karşılaşmadığını söyledi.

Robinson ayrıca hizalama (alignment) sorununa da değindi; bunun "duygusal" durabileceğini kabul etti ancak güncel yapay zeka sistemlerinin insan değerleriyle ne kadar örtüştüğüne dair ölçümlerin hâlâ kaba olduğu için kritik olduğunu savundu. Bu sorunlar çözülmeden sektörün modelleri ne kadar daha yetenekli hale getirmesine izin verirse, yazdığına göre durum o kadar tehlikeli hale geliyor.

OpenAI'nin yanıtı

OpenAI sözcüsü Drew Pusateri, yaptığı açıklamada şirketin güvenlik önlemlerini sürekli iyileştirdiğini söyledi. OpenAI'nin modellerinin güvenle yönetebileceği ve güvence altına alabileceğinden daha yetenekli hale gelmemesini sağlamak için çalıştığını ve yavaşlaması gerektiğinde eğitimi durdurduğunu veya modelleri geri tuttuğunu belirtti. Pusateri, araştırma ve test ortamlarında güvenliği güçlendirme çabalarına, modelleri görevleri sorumlu biçimde tamamlamak için eğitmeye, üçüncü taraf değerlendiricilerle çalışmayı genişletmeye ve kaygı verici davranışın eğitim sürecinde daha erken yakalanması için gerçek zamanlı izlemeyi iyileştirmeye dikkat çekti.

Daha geniş bir tepkinin parçası

TechCrunch'ın belirttiği gibi Robinson'un ayrılışı, hem OpenAI hem de Anthropic'te çalıştıktan sonra istifa edip şirketlerin "canımızla kumar oynadığını" söyleyen araştırmacı Jacob Coxon'un çıkışıyıldız yankı buluyor. Coxon'un sözleri yapay zeka güvenliği hakkında daha geniş bir tartışma başlattı; bunun ardından Anthropic CEO'su Dario Amodei daha temkinli bir yapay zeka geliştirme planı duyurdu ve yapay zeka yöneticileri Başkan Donald Trump ile bir araya gelip TechCrunch'ın "aceleyle yazılmış, bağlayıcı olmayan" olarak nitelediği, daha fazla güvenlik kontrolü uygulamaya yönelik taahhüdü imzaladı.

Robinson, tartışmanın belirli kuralların ya da yeni yasaların ötesine geçip şirket kültürüne ulaşması gerektiğini ve OpenAI'nin sorunlarının basitçe CEO Sam Altman'ın eski meslektaşlarının güvenini kaybetmesi değil, Silikon Vadisi'nin genelinin sorunları olduğunu savundu. Kendisinin ve meslektaşlarının "koşuşturmaktan" o kadar meşgul olduğunu ki temel kadro ve kültür değişikliklerini düşünme fırsatına nadiren sahip olduklarını, bu yüzden de işi doğru yapmanın büyük bir parçasının şirketten gelen daha güçlü dış güvenlik teşvikleri olduğu sonucuna vardığını ekledi.

Neden önemli

Bir sınır (frontier) laboratuvarında lansman güvenliğini belgelemekten sorumlu kişi iç kültürün kendini düzeltemeyeceği sonucuna vardığında, bu, yapay zeka şirketlerinin kendi geliştirme hızlarını denetleyip denetleyemeyeceği sorusunu keskinleştiriyor. Robinson'un argümanı odağı kural eklemekten teşvikleri değiştirmeye kaydırıyor ve dış baskıya yönelik açık çağrısı, Coxon'un istifasının ve Beyaz Saray taahhüdünün ardından zaten tırmanan denetim ortamına denk geliyor. İterative deployment eleştirisi sektörün çekirdek ürün yayınlama metodolojisini hedef alıyor ve modeller daha yetenekli hale geldikçe, üretimdeki hatalardan öğrenmenin maliyetinin kabul edilemez hale gelebileceğine işaret ediyor.