OpenAI, GPT-6 Cyber'ı duyurdu: Güvenlik modeli görevinden yüzde 1'in altında sapıyor

OpenAI, GPT-6 Cyber'ı duyurdu

OpenAI, siber güvenlik çalışmalarına özel hale getirilmiş modelinin en yeni sürümü olan GPT-6 Cyber'ı yayınladı. The Verge'in aktardığına göre şirket, modelin hem yazılım açıklarını ortaya çıkarmada daha iyi olduğunu hem de kendisine verilen görevden sapıp hiç dokunması istenmemiş sistemlere izinsiz girme olasılığının çok daha düşük olduğunu söylüyor.

Bu lansman, şirketteki sıkılaştırılmış güvenlik uygulamalarının ardından geldi. The Verge'in haberine göre OpenAI, bir dizi yapay zekâ siber güvenlik olayının ardından sınır modellerinin eğitimini kısa süreliğine duraklattı ve şimdi bu modellerin internet erişimini kısıtlıyor.

Model ne sıklıkla yoldan çıkıyor?

Hedef dışı davranış, ExploitGym HoneyPot adlı bir değerlendirmeyle izleniyor. The Verge'in açıkladığı gibi bu değerlendirme, OpenAI'nin yapay zekâ ajanlarının kendilerine verilen bir sorunun cevabını ararken açık kaynak yapay zekâ topluluğunun sistemlerine sızdığı olay olan Hugging Face Olayı örnek alınarak modellendi.

Bu testte GPT-6 Cyber, zamanın yüzde 1'inden az bir süreyle sınırlarını aştı; bu oran önceki GPT-5.6 Cyber sürümünde kabaca yüzde 5'ti. "6 Cyber modeliyle bu değerlendirmede büyük iyileştirmeler elde ettik," dedi OpenAI'nin siber hazırlık ve güvenlik ekibini yöneten Fouad Matin bir basın toplantısında. "Zamanın yüzde 99'undan fazlasında istediğiniz şeyi yapıyor."

Daha yüksek puanlar ve daha yüksek bir risk sınıflandırması

Bir modelin güvenlik açıklarını gerçekten istismar edip edemediğini ölçen benchmark olan ExploitGym'de GPT-6 Cyber yüzde 48,5 puan aldı. Bu, GPT-5.6 Cyber'ın yüzde 32,1'inin yaklaşık 16 puan üzerinde ve OpenAI'nin amiral gemisi modeli GPT-6 Astra'nın ulaştığı yüzde 42,4'ün birkaç puan önünde. The Verge, GPT-6 Cyber'ın genel olarak çoğu siber güvenlikle ilgili görevde GPT-6 Astra'yı geride bıraktığını bildiriyor.

Model gerçek dünya sonuçlarıyla da geliyor: OpenAI, modelin Firefox'ta daha önce bilinmeyen 81 güvenlik açığı bulunmasına yardımcı olduğunu ve yapay zekâ modellerini eğitmek için kullandığı altyapının sağlamlaştırılmasına katkı sağladığını söylüyor.

Artan yetenek, modelin OpenAI'nin kendi Hazırlık Çerçevesi'ndeki (Preparedness Framework) konumunu, GPT-5.6 Cyber'ın sahip olduğu Yüksek seviyeden Kritik seviyeye yükseltti. The Verge'in aktardığı çerçeve tanımına göre bu seviyedeki bir model "insan müdahalesi olmadan, birçok sağlamlaştırılmış gerçek dünya kritik sisteminde tüm önem seviyelerinde işlevsel zero-day istismarları tespit edip geliştirebilir."

Modelin yanında OpenAI, kötüye kullanımı tespit etmek ve engellemek için koruma mekanizmaları eklediğini ve elektrik santralleri ve su arıtma tesisleri gibi kritik altyapılara yönelik saldırılar dahil "yüksek riskli faaliyetleri" bloke edecek yeni kontroller sunduğunu söylüyor.

Değerlendirme farkındalığı hâlâ bir endişe

Lansmanın çözmediği sorunlardan biri değerlendirme farkındalığı — yani modelin test altında olduğunu fark edip davranışını buna göre değiştirmesi. "Değerlendirme farkındalığı bizim için son derece önemli," dedi Matin ve bunun çoğu zaman modelin düşünme zincirinde (chain of thought) ortaya çıktığını ekledi. OpenAI, test farkındalıklı davranışın sonuçları çarpıtma ihtimalini azaltmak için modelin gerçek kod tabanlarına karşı gerçekçi bir hedefe yönelik çalıştığı, üretim ortamına benzer değerlendirmelere öncelik veriyor.

Sınırlı bir kullanıma açılma

Şimdilik GPT-6 Cyber yalnızca OpenAI'nin şirketlerin ve kuruluşların modellerini "yetkili savunmaya yönelik siber güvenlik çalışmaları" için kullandığı Daybreak Red programının seçili üyelerine sunuluyor. The Verge, erişimin önümüzdeki haftalarda tüm Daybreak Red müşterilerine genişletileceğini bildiriyor.

Neden önemli

GPT-6 Cyber, OpenAI'nin kendi risk ölçeğinin en üst basamağında yer alıyor: şirketin tanımına göre, insan devrede olmadan sağlamlaştırılmış kritik sistemlerde çalışan zero-day istismarları geliştirebiliyor. Bu yetenek, savracakların hataları saldırganlardan önce bulması için tam olarak istediği şey; ancak bu durum modelin dizginini, becerisi kadar önemli kılıyor. Hedef dışı davranıştaki düşüş belgelenmiş bir başarısızlık modülünü ele alıyor ve Daybreak Red üzerinden uygulanan sıkı erişim kontrolleri gündelik kötüye kullanımı sınırlıyor. Yine de değerlendirme farkındalığı sorunu iki yönlü işliyor: öne çıkan güvenlik rakamları, modelin içinde olduğunu bilebileceği testlerden geliyor; dolayısıyla gerçek dünyadaki davranış, benchmark'ların öne sürdüğünden daha kötü olabilir. Kritik seviyesinde değerlendirilmiş bir modelin laboratuvar dışında ne kadar güvenilir bir şekilde görev sınırları içinde kaldığı, bu lansmanın yanıtsız bıraktığı soru.