Google, geçersiz yapay zeka üretimi raporların seli gerekçesiyle açık kaynak hata ödülü programını durdurdu

Google, Açık Kaynak Yazılım Güvenlik Açığı Ödül Programı'nı askıya aldı ve şirket bunun nedeninin, güvenlik ekiplerinin artık başa çıkamadığı otomatik, yapay zeka üretimi başvuru dalgası olduğunu belirtti.

TechCrunch'a göre, Google'ın açık kaynak projelerindeki güvenlik açıklarını bulan araştırmacılara ödül veren program 1 Ekim itibarıyla durduruldu. Google bu dondurma kararını X'te ve programın web sitesinde yaptığı duyurularla açıkladı ve 2027'nin ilk çeyreğinde bir güncelleme paylaşmayı beklediğini söyledi.

Google durdurma düğmesine neden bastı

Google, askıya almanın nedenini otomatik başvurulardaki keskin artışa bağladı ve bunların ezici çoğunluğunun geçerli olmadığını belirtti. Tom's Hardware'e göre, gelen raporları inceleyen mühendisler ve açık kaynak geliştiricileri, ya tamamen geçersiz ya da halüsinasyon — raporları üreten araçların uydurduğu ayrıntılar — içeren başvurular altında ezildi.

Sorunun mantığı basit. Üretken yapay zeka, ölçekli olarak inandırıcı görünen güvenlik açığı raporları üretmeyi ucuz ve hızlı hale getiriyor; ama her raporun doğrulanması için hâlâ bir insana ihtiyaç var. Otomatik üretimin çoğu çöp çıktığında, eleme maliyeti nadir bulunan gerçek bir bulgunun değerini hızla aşıyor ve bu elemeyi yapanlar tükeniyor.

Güvenlik uzmanlarının öngördüğü bir sorun

TechCrunch, bir yıl önce yapay zeka üretimi dolgu içeriklerin hata ödül programları için ciddi bir risk oluşturduğu konusunda siber güvenlik uzmanlarını uyarırken aktardığını hatırlatıyor. Google'ın bu adımı, dünyanın en büyük yazılım şirketlerinden birinde bu uyarının gerçekleşmesi gibi görünüyor.

Hata ödül programları örtük bir pazarlıklara dayanır: araştırmacılar gerçek açıklar bulmak için nitelikli zaman harcar, kuruluşlar da ayakta duran sonuçlar için ödeme yapar. Otomatik toplu başvuru, doğrulama yükünü işletene yüklerken karşılığında nadiren kullanılabilir bir şey sunarak bu pazarlığı bozuyor.

Katılımcılara ne olacak

Şimdilik Google, katılımcıları hâlâ aktif olan diğer hata ödül programlarına yönlendiriyor. Şirket, açık kaynak hattını yeniden açmadan önce hangi değişiklikleri yapmayı planladığını — eğer yapacaksa — kamuya açıklamadı; yalnızca daha fazla bilginin 2027 başında geleceğini söyledi.

Neden önemli

Bu, üretken yapay zekanın yerleşik bir güvenlik iş akışını iyileştirmek yerine bozulmasına somut ve ölçülebilir bir örnek. Güvenlik açığı ödül programları her iki tarafta da kıt insan uzmanlığına bağlı — gerçek hataları bulabilen başvuru sahipleri ve bunları doğrulayabilen incelemeciler — ve Google'ın hacmi içine sindirmek yerine duraklatmayı seçmesi, sorunun inceleme kapasitesini aştığının sinyali.

Bu ayrıca diğer program işletenlerinin yakından izleyeceği bir emsal oluşturuyor. Yapay zeka üretimi başvurular Google'da bir duraklatmaya yol açabiliyorsa, daha zayıf eleme kaynaklarına sahip daha küçük programlar aynı baskıyla çok daha az karşı koyma gücüyle karşı karşıya. İşleticilerin şimdi karşılaştığı sorular — raporları otomatik olarak önceden elemek, başvuruları itibara göre ağırlandırmak ya da kabul koşullarını sıkılaştırmak — güvenlik açığı bildirim programı yürüten herkes için isteğe bağlı iyileştirmeler değil, kaçınılmaz tasarım sorunları haline geldi.