Rich Hickey'ın 'Yapay zekâ bir araç değildir' yazısı beceri ve otomasyon üzerine bir yanıt çekiyor

Tartışma

Clojure'un yaratıcısı Rich Hickey, LinkedIn'de "'AI' Is Not a Tool" başlıklı bir yazı yayımlayarak, büyük dil modellerinin araçlar değil otomasyon olduğunu ve onları araç olarak görmekin geliştiricilerin gerçekte ne yaptığını yanlış temsil ettiğini savundu. Yazı, Hacker News'in ana sayfasına ulaştıktan sonra geniş çapta yayıldı ve yyhh.org blogunda "AI Is a Tool. Using It Well Takes Skill" başlığıyla yayımlanan doğrudan bir yanıtı da beraberinde getirdi. İki yazı birlikte, yazılım dünyasının bugünkü merkezî tartışmalarından birini çerçeveliyor: Bir geliştiricinin bir LLM'i sorumlu bir şekilde kullanması ne anlama geliyor?

Hickey'ın argümanı: Araçlar kullanılır, LLM'ler kullanılmaz

Hickey argümanını tanımlar üzerine kuruyor. Ona göre bir araç, kullandığınız, enerjinizi aktardığınız, çalışırken sürekli yönlendirmeye yanıt veren ve duyusal geri bildirim sağlayan bir alettir. Araçlar, yazdığına göre, sizin onlarla iş yaptığınız şeylerdir, işi sizin yerinize yapan şeyler değil; ve onları kullanmak, görev ve dünya hakkında uzmanlık inşa eder. İyi araçlar ayrıca öngörülebilir, güvenilir, deterministiktir ve kapsamı sınırlıdır; Hickey bu özelliklerin LLM'lerde bulunmadığını söylüyor.

Bir modelin sürekli kontrolünüz olmadan talepler üzerine hareket etmesi nedeniyle Hickey onu otomasyon olarak sınıflandırıyor; yani en az doğrudan insan müdahalesiyle kendi kendine çalışan bir makine. Verdiği benzetme bir fast-food arabalı servis: Onu pişirme aleti olarak değil, pişirmeyi tamamen atlamayı sağlayan bir makine olarak tanımlıyor. Aynı şekilde, bir LLM'in de kod yazdığınız bir şey değil, kod yazma işini devrettiğiniz bir şey olduğunu savunuyor.

Ona göre asıl maliyet, bu devrin ortadan kaldırdığı şeyde. Görevi öğrenmek yerine otomatın güne ilişkin tuhaflıklarını öğreniyorsunuz; istediğiniz sonucu almak için talepleri nasıl ifade edeceğinizi mesela; ve tek bir model güncellemesi bu bilgiyi silip atabilir. Bu noktayı kodun ötesine de taşıyor: Bir makalenin modele okutulup özetletilmesi, argümanların nasıl inşa edildiğini öğrenme pratiğinden vazgeçmek demek. Ayrıca araçların asla 'hizadan çıkmış' ya da 'kontaynırdan kaçmış' olarak tanımlanmadığına dikkat çekerek, bu tür korkuların yalnızca kendi kendine hareket eden bir şey için anlamlı olduğunu ima ediyor.

Yanıt: Zor bir araç yine de araçtır

yyhh.org'daki yanıt, zihinsel işi dış kaynak olarak devretmenin gerçek öğrenme fırsatlarına mal olabileceğini kabul ediyor; ancak Hickey'ın sonucunun bunu gerektirmediğini savunuyor. Öngörülebilirlik, güvenilirlik ve basitlik, yazarın deyişiyle, araçları değerlendirmek için kullandığımız niteliklerdir, kategoriye giriş koşulları değil. Beceriksiz ellerdeki bir testere yine eğik keser; bir keski tutmak sizi heykeltıraş yapmaz.

Yanıta göre otomasyon, bir aracın özelliği de olabilir. Bir compiler, kodu adım adım yönlendirme olmadan çevirir; bir elektronik tablo, elle hesap yapmadan yeniden hesaplar; ama programcılar her ikisini de girdi sağlayarak, çıktıları inceleyerek ve neyin geleceğine karar vererek yönetir. LLM'lerde de aynı döngü vardır: Bir modele tanımadığınız kodu açıklamasını istemek, yanıtı sorgulamak, önerilen değişikliği test etmek, reddetmek ve talebi rafine etmek; neyi soracağınızı ve yanıtın ne zaman yanlış olduğunu bilenleri ödüllendiren, insan yönlendirmeli bir geri bildirim döngüsüdür.

Okuma konusunda yanıt, metnin özetini okumayı kabul etmek ile metne ilişkin kendi anlayışınızı sorgulamak için model kullanmayı birbirinden ayırıyor ve zihinsel emekten kaçınma olasılığının, her kullanımın bundan kaçındığını kanıtlamadığını savunuyor. Ayrıca Hickey'ın dilini de eleştiriyor: 'go rogue' ve 'conspire' gibi terimlerin, yapay zekâ endüstrisinin antropomorfik çerçevesini ödünç aldığını; beklenmedik çıktıların motif kanıtı değil, mühendislik başarısızlıkları olduğunu söylüyor. Yazarın vardığı有用的 useful ayrım çizgisi, bir aleti beceriyle kullanmak ile işi yeterli gözetim olmadan devretmek arasındadır; bu ayrım, tüm kategoriyi araçsız ilan etmeden yapay zekâya uygulanabilir.

Uzlaştıkları nokta

Dikkat çekici olan, iki yazarın da temel başarısızlık modunda hemfikir olması. Hickey yazma ve okuma işini terk etmeye karşı uyarıyor; yanıt ise anlamadan veya gözetimsiz devretmeye karşı uyarıyor. Hiçbiri bir LLM'in her zaman operatörünün niyetini yaptığını iddia etmiyor ve hiçbiri becerinin önemsiz olduğunu savunmuyor.

Neden önemli

Etiketleme tartışması, taksonomiden çok yol göstermeyle ilgili. Eğer LLM'ler otomasyonsa, geliştiricinin rolü devretme ve doğrulamaya kayar ve beceri kaybı, ekiplerin aktif olarak yönetmesi gereken varsayılan risk haline gelir. Araçlarsa ayırt edici faktör ustalıktır: Ne soracağınızı, hangi kanıta güveneceğinizi ve ne zaman karşı çıkacağınızı bilmek. Anlaşmazlık kelime dağarcığına da dokunuyor; çünkü yazılımı agent temelli terimlerle tanımlamak, kuruluşların onu nasıl düzenleyip dağıtacağını şekillendiriyor. Yapay zekâ politikası yazan mühendislik ekipleri için iki yazının ortak paydası — anlamadığınız işi devretmenin asıl tehlike olduğu — tartışmanın en eyleme dönüştürülebilir çıkarımı olabilir.