Geliştirici, ortağının 5.236 satırlık yapay zekâ üretimi ödeme pull request'inin hiç test edilmediğini söylüyor

Ne oldu

Bir geliştirici, yapay zekâ ile üretilen kodun insan doğrulaması olmadan yayına alınmasının sonuçlarını anlatan birinci ağızdan bir deneyim paylaştı — ve konu bir yan proje değil, bir ödeme backend'i. Bear Blog'da yazdığı ve Hacker News'in ana sayfasına kadar yükselen yazısında yazar, bir iş ortağının ürünün tüm ödeme modülünü tek bir günde bir yapay zekâ kodlama asistanı kullanarak inşa ettiğini ve bunu dokümantasyonu dahil 5.236 satır eklenen bir pull request olarak teslim ettiğini anlatıyor.

Yazıya göre ikili, sistemin bu kısmını birlikte inşa etmeyi kararlaştırmıştı: yazar frontend'den sorumlu olacak, ödeme kısmı ise ortak bir emek olacaktı. Bunun yerine ortak, yazarın itiraz etmeyen, her şeye onay veren bir asistan olarak nitelediği bir modelle tek başına çalıştı — kodu gerçekten kullanacak ve API'nin ne yapması gerektiğini bilen tek kişinin yerine.

Yazar en sonunda branch'i pull edip endpoint'leri çalıştırdığında modül çalışmadı. Ortak onları hiç çalıştırmamıştı. Yazarın tahminine göre test etmek yaklaşık iki dakika sürecekti, çünkü üretilen endpoint'ler zaten ekibin API istemcisi olan Bruno'da toplanmıştı.

İncelenmemenin izleri

Pull request'e eşlik eden dokümantasyon, makine tarafından yazılmış metnin tanınabilir izlerini taşıyordu: bir hatanın 400 yanıtı üretmesi gibi temel bilgileri açıklıyor — ki bunu çalışan her geliştirici zaten biliyor — ancak API anahtarlarının nereden alınacağı gibi bir insanın gerçekten ihtiyaç duyacağı bilgileri atlıyordu. Yazar bu fazlalığı bilinmeyen bir kitle için yazılmış metin, boşlukları ise kimsenin yeniden okumadığı içerik olarak yorumluyor ve ortağının kendi aracının ürettiği dokümanı hiç açmadığı sonucunu çıkarıyor.

Pull request'ten önce gelen uyarı

Yazar bu sonucun daha baştan görüldüğünü söylüyor. Projenin başında ortağını yapay zekâ desteğinin gerçek programlamanın yerine geçmesine karşı uyarmış ve karşılığında kendinden emin güvenceler almış. Argümanları bir atrofi benzetmesi: tıpkı kasların uzun yatak istirahatında körelmesi gibi, geliştiricinin işi yapma becerisi de kullanılmadığında zayıflar ve test edilmemiş pull request, bu zaafiyetin ortaya çıktığı an olmuş — tıpkı iki dakikalık bir sokak maçında nefessiz kalan hareketsiz bir oyuncu gibi.

Yazı boyunmuş bir tonda bitiyor. Yazar bunun bundan sonraki son projesi olabileceğini ima ediyor, yoga eğitmeni olmak için yeniden eğitim almayı yarım şaka ile savunuyor ve elle programlamaktan keyif alan meslektaşlarının çoğunun prompt odaklı iş akışlarına geçmiş olmasını yad ediyor.

Neden önemli

Bu, bağımsız doğrulaması olmayan anonim bir anekdot ve yazarın daha geniş iddiası — yapay zekâ desteğinin bilişsel yeteneği aşındırdığı — bir ölçülmüş sonuç değil, bir görüş. Ama somut ayrıntı öğretici: para işleyen kod, 5.236 satır, sıfır endpoint testi ve kimsenin okumadığı bir dokümantasyon. Yapay zekâ desteği kod üretmenin maliyetini düşürüyor; onu doğrulamanın maliyetini hiçbir şey yapmıyor ve ödeme backend'leri, doğrulanmamış kodun pahalıya patladığı yerlerin başında geliyor.

Başarısızlık, yalnızca bir kurucu ortak tesadüfen iki dakika ayırıp endpoint'leri çalıştırdığı için yakalandı. Tek kişilik bir ekip ya da diğer ortağın kontrol edemeyecek kadar meşgul olduğu bir ekip, bu kodu makul biçimde merge etmiş olabilirdi. Bir ekibin yapay zekâ üretimi koda hangi konumu alırsa alsın, buradaki operasyonel ders tartışmasız: üretilen çıktı, insan yazımı kodla aynı kapılardan geçmeli — testler, review ve en az bir kişinin onu gerçekten çalıştırması gerekir — ve otomatik üretilen dokümantasyonun da hâlâ bir okuyucuya ihtiyacı var. Ortaya çıkan daha ince bir maliyet de var: ortak işbirliğinin kendisini atladı, gerçek gereksinimleri ve bağlamı olan bir meslektaşı her şeye onay veren bir sistemle değiştirdi. Kod üretmenin en hızlı yolu, çalışan yazılım teslim etmenin en yavaş yolu çıktı.