OpenAI, politika ihlalini gerekçe göstererek üç güvenlik araştırmacısının işten çıkarılmasını yeniden teyit etti

OpenAI işten çıkarmaları yeniden teyit ediyor

OpenAI, üç yapay zeka güvenliği araştırmacısını işten çıkarma kararından kamuoyu önünde geri adım atmadı ve bu adımın iç eleştiriyi susturma girişimi değil, politika ihlallerine verilen bir tepki olduğunu ısrarla savundu.

The Verge'e göre şirket, Cuma günü X üzerinde yaptığı bir paylaşımda Jasmine Wang, Tomek Korbak ve Mikita Balesni'nin, yürütülen bir soruşturmanın "hassas bilgilerin ele alınmasına dair açık politikaların" ihlal edilmesini içeren "önemli bir güven ihlali" tespit etmesinin ardından işten çıkarıldığını duyurdu. OpenAI, kararın bu üç kişinin şirket hakkında konuşması veya yapay zeka güvenliğine ilişkin kaygılar dile getirmesiyle hiçbir ilgisi olmadığını vurguladı.

Araştırmacıların açık mektubuna doğrudan yanıt

Açıklama, üç araştırmacının Perşembe günü yayımladığı ve OpenAI'dan işten çıkarılmalarının gerekçeleri konusunda daha şeffaf olmasını istedikleri açık mektuba doğrudan bir yanıt niteliğindeydi. The Verge'in haberine göre, mektupta ve ona eşlik eden bir dizi sosyal medya paylaşımında grup, güvenlik kaygılarını dile getirdikleri için işten çıkarıldıklarını savundu ve OpenAI'ın misyonu ile o dönemde geçerli olan çalışma normlarıyla tutarlı hareket ettiklerini söyledi.

OpenAI ise dahili soruşturmanın, araştırmacıların mektubunda anlattıklarının ötesinde ihlaller ortaya çıkardığını ileri sürdü. Ancak The Verge'in de belirttiği gibi şirket, bu ek ihlallerin ne olduğuna dair somut bir ayrıntı vermeyi reddederek suçlamanın özünü açıklanmaz bıraktı.

Merkezinde bir bilgi boşluğu bulunan bir anlaşmazlık

Yaşanan çıkmaz şimdi bir bilgi asimetrisine dayanıyor. OpenAI elinde yayımlamayacağı bir usulsüzlük kanıtı olduğunu söylerken, araştırmacılar davranışlarını sergiledikleri dönemde geçerli olan standartlar altında hiçbir yanlış yapmadıkları görüşünü koruyor. Diğer çalışanlar, dışarıdaki güvenlik araştırmacıları ve daha geniş yapay zeka topluluğu dahil üçüncü tarafların, iki tarafın anlatımını bağımsız olarak doğrulamasının bir yolu yok.

Bu boşluğu kapatmak zor. İddia edilen ihlallerle ilgili ayrıntıları yayımlamak, politikaların koruması amaçlanan hassas bilgilerin kendisini açığa çıkarabilir; sessiz kalmak ise OpenAI'ı, şeffaflık çağrılarının kanıt yerine iddialarla yanıtlandığı şüphesine açık bırakır. Araştırmacıların davalarını açık mektup yoluyla kamuya taşima kararı, şirketi tam olarak kontrol etmediği bir alanda kendini savunmaya zorlayan ek bir baskı yaratıyor.

Yapay zeka laboratuvarlarında güvenlik kaygısı büyüyor

The Verge, bu anlaşmazlığı sınır yapay zeka sistemlerinin güvenliğine ilişkin artan iç kaygıların daha geniş arka planına yerleştiriyor. Habere göre, yapay zeka şirketlerinde çalışanlar bu yıl yaşanan bir dizi yüksek profilli ihlalin — en belirgin olarak The Verge'in "OpenAI'ın Hugging Face'i hacklemesi" olarak nitelendirdiği olayın — ardından giderek endişelenmeye başladı. Birçok çalışanın şimdi işverenlerinden geliştirmeyi yavaşlatmalarını ve kendi kendini geliştiren sistemler inşa etmenin olası sonuçlarına karşı korunmak için daha fazla yatırım yapmalarını talep ettiği bildiriliyor.

Böyle bir ortamda güvenlik araştırmacılarının işten çıkarılması, altta yatan gerçeklerden bağımsız olarak hassas bir sinyal oluşturuyor. İşten çıkarmalar bilgi ele alma gerekçeleriyle haklı olsa bile, bu olay yapay zeka şirketleri ile çalışmalarını denetlemekle görevli kişiler arasındaki sürtünme anlatısını besliyor.

Neden önemli

Bu, bir insan kaynağı hikayesi olduğu kadar bir yönetişim hikayesi. OpenAI, sınır yapay zekayı şekillendiren en etkili laboratuvarlardan biri ve ayrılık seslerini, dahili soruşturmaları ve şeffaflığı nasıl eleştirdiği sektörün geri kalanı için bir referans noktası oluşturuyor. Güvenlik çalışanları kaygı dile getirmenin kariyerleri bitirebileceğine inanırsa, şirketler riskleri erken aşamada tespit etmeleri gereken araştırmacıları ellerinde tutmakta ve bu kişileri işe almakta zorlanabilir. Öte yandan, hassas bilgileri sızdırmanın veya yanlış ele almanın hiçbir sonucu olmazsa, sınır model ayrıntılarını koruyan denetimler zayıflar.

Bu olay ayrıca alanın karşı karşıya olduğu hesap verebilirlik sorununu gözler önüne seriyor: bulguları yayımlanmamış bir dahili soruşturma dışarıdan denetlenemez. OpenAI daha fazla ayrıntı sunmadığı — ya da araştırmacılar kendi taraflarından daha fazla belgeyle yanıt vermedikleri — sürece sektör, bir şirketin sözünü eski üç güvenlik çalışanının sözüyle tartmak zorunda kalıyor ve yapay zeka güvenliği kültürü之间存在 bir-belirsizlik içinde askıda kalıyor.