OpenAI'da AI eğitimi için işe alınan sözleşmeli çalışanlar, işi AI ile yaptıkları için kovuldu

404 Media'nın soruşturmasına göre, ChatGPT'yi insan değerlendirmesiyle geliştirmek için para ödenen sözleşmeli çalışanlar, işi yapay zekâya yaptırdıkları için işten çıkarıldı. Yayın kuruluşu, çeşitli OpenAI projelerinde çalışan üç sözleşmeli çalışanla görüştü ve hem eğitim iş gücünü yöneten kuralları hem de bunların nasıl uygulandığını açıklayan iç belgeler ele geçirdi.

OpenAI, modellerini rafine etmek için geniş bir sözleşmeli çalışan havuzuna güveniyor ve 404 Media'nın gördüğü iç belgelerden biri, tek bir projenin on binden fazla kişiyi içerebileceğini gösteriyor. 404 Media'nın Project Lily adını verdiği bu çabayla ilgili önceki haberlerinde anlattığı üzere, bu kişilerin görevi, gerçek ChatGPT kullanıcı promptlarını ve konuşmalarını — bunlar kişisel bilgi içerebiliyor — okumak ve ardından chatbot'un yanıtlarını puanlamak ve eleştirmek; yanıtların aşırı yaltakçı olmamasını ve botu olduğundan daha insan gibi göstermemesini de denetlemek.

Bu sistemin tüm mantığı, bu çalışanların bir modelin sunamayacağı bir şeyi sunması. 404 Media'ya göre, kayda değer bir kısmı bunu yapmıyor. Sözleşmeli çalışanlardan biri, AI kullanımının sürekli yaşandığını ve bu yüzden yakalanmanın bir projeden çıkarılmanın neredeyse tek kesin yolu olduğunu söyledi ve binlerce kişilik bir grupta pek çok kişinin yakalandığını ekledi.

İç belgeler ne diyor

Diğer sözleşmeli çalışanları incelemekle görevli — onları AI kullanırken yakalamak da dahil — çalışanları kapsayan bir belge şu talimatı veriyor: "AI algılama araçları kullanmayın, kendiniz de AI kullanmayın." Belge, GPTZero ve benzeri dedektörleri güvenilmez olarak nitelendiriyor ve Grammarly ile AI çeviri araçlarını da inceleme, geri bildirim veya yorum yazarken yasaklanan AI kullanımı olarak sayıyor.

Aynı kılavuz, değerlendiriciler neyin denetlendiğini bilirlerse alışkanlıklarını daha kolay gizleyebilecekleri gerekçesiyle incelemecilere şüphelenmelerine neyin sebep olduğunu açıklamamalarını ve birinin işini tek bir ipucundan ziyade genel örüntü üzerinden değerlendirmelerini söylüyor.

İncelemeciler AI kullanımını nasıl fark ediyor

404 Media'nın aktardığına göre incelemecilere, makine tarafından yazılmış metnin tipik işaretlerine dikkat etmeleri söyleniyor: tekrarlayan kelime dağarcığı, AI'ya özgü noktalama — uzun tirenin aşırı kullanımı dahil — ve şüpheli derecede hızlı tamamlanan görevler. Çalışanların birbirlerinden tavsiye istediği Slack kanallarında, bir sözleşmeli çalışan, insanların düzenli olarak bir örnek paylaşıp AI tarafından üretilmiş görünüp görünmediğini sorduğunu söyledi. "Genellikle cevap evet oluyor," dedi.

Sözleşmeli çalışanlardan biri, 404 Media'ya OpenAI'nin modellerini eğitmeye yardım ederken AI kullandığını itiraf etti ve işlerinin "özgünlüğü"ndeki sorunlara atıfta bulunan bir işten çıkarma mektubunu paylaştı. Kişi, desteğe ihtiyaç duydukları için AI'ya başvurduklarını söyledi ve işin kendilerine hiçbir şeye katkıda bulunma hissi vermediğini belirtti.

Mercor çıkarmaları doğruladı, OpenAI yorum yapmayı reddetti

Üç sözleşmeli çalışandan ikisi, insanları ChatGPT ile ilgili materyalleri incelemek üzere işe alan Mercor şirketi aracılığıyla çalışıyor. Mercor sözcüsü yapılan açıklamada, uzmanların uzmanlıkları ve değerlendirmeleri için işe alındığını, sözleşmelerin projeleri tamamlamak için büyük dil modelleri kullanımını kesinlikle yasakladığını ve bunu yaptığı doğrulanan herkesin derhal çıkarıldığını söyledi. Şirket, suistimali tespit etmek için araçlara ve sistemlere yoğun yatırım yaptığını da ekledi.

OpenAI, sözleşmeli çalışanların AI kullanımı nedeniyle kovulmasıyla ilgili yorum yapmayı reddetti.

Sabotaj işleri biraz daha karıştırıyor

404 Media ayrıca, çeşitli AI şirketleri için model eğiten ve bazen bir modelin eğitimini sabote etmek amacıyla bilerek en kötü yanıtları seçtiğini söyleyen dördüncü bir sözleşmeli çalışanla da görüşdü. Yüzlercesi arasındaki tek bir değerlendiricinin ne kadar önemli olduğundan emin olmayan kişi, yine de "AI'yı kötüleştirmek için para alıyormuşum gibi hissediyorum," dedi.

Neden önemli

İnsan geri bildirimi, chatbotları yararlı ve güvenli kılması beklenen bileşen; bu yüzden değeriyse tamamen gerçekten insan olmasına bağlı. Bir kısmı makine tarafından üretilmişse, eğitim sinyali en güçlü olması gereken yerde tam olarak zayıflıyor — ve araştırmacılar zaten modellerin AI tarafından üretilmiş metinlerle tekrar tekrar eğitilmesi durumunda ortaya çıkabilen birleşik bozulma olan model çöküşü konusunda uyarıyor. Bu değerlendiriciler, kısmen tam bu sonucu önlemek için işe alınan kişiler. Habercilik aynı zamanda uygulamanın ne kadar kırılgan olduğunu da gösteriyor: otomatik dedektörler kullanılamayacak kadar güvenilmez kabul ediliyor ve tespit, binlerce kişilik iş gücünde manuel örüntü tespitine bırakılmış durumda. Ve 404 Media'nın işaret ettiği gibi daha geniş bir ironi de var: OpenAI, işletmeleri her iş akışına AI koymaya ikna etmek için ağır paralar harcarken, insan dokunuşunun tüm anlam olduğu kendi eğitim hattında bunu tamamen yasaklıyor.