Paper, Kahneman'ın hızlı ve yavaş düşünmesini çok etmenli bir yapay zekâ mimarisine map'liyor

Eski bir tartışma yeni bir kitle buluyor

İnsan muhakemesine dair Kahneman'ın ikili süreç teorisini yapay zekâya uygulayan bir araştırma makalesi, Hacker News'in ana sayfasına çıkmasının ardından yeniden ilgi gördü. Andrea Loreggia tarafından 5 Ekim 2021'de arXiv'e gönderilen "Thinking Fast and Slow in AI: The Role of Metacognition" başlıklı makalenin temel iddiası — yapay zekâ sistemlerinin hızlı, deneyim temelli yanıtları yavaş, kasıtlı muhakemeden açıkça ayırması gerektiği — her geçen gün daha güncel okunuyor.

Dar kapsamlı yapay zekâ ve eksiklikleri

Makaleye göre alanın çarpıcı ilerlemesi, günlük yaşama işlemiş uygulamalar üretti; ama bunların neredeyse tamamı dar kapsamlı yapay zekâ örnekleri: görüntüleri yorumlama, dil işleme, veri sınıflandırma veya tahmin yapma gibi küçük bir yetenek ve hedef kümesi etrafında kurulmuş sistemler. Yazarlar bu başarıyı daha iyi algoritma ve tekniklere bağlarken, bunun devasa veri kümeleri ve bol miktarda hesaplama gücüne dayandığına da dikkat çekiyor. Onların değerlendirmesine göre, en gelişmiş yapay zekâ bile insan zekâsının doğal bir parçası sayılacak birçok yetenekten yoksun.

Önerdikleri çare, insanlara bu yetenekleri kazandıran mekanizmaları inceleyip bunları makine sistemleri için bir şema olarak ele almak. Dayandıkları teori, psikolog D. Kahneman'ın hızlı ve yavaş düşünme anlatısı.

Hızlı agent'lar, yavaş agent'lar ve bir self model

Makalenin taslakını çizdiği mimari tasarım gereği çok etmenli. Gelen problemler ya "sistem 1" agent'larına — yalnızca geçmiş deneyimi kullanarak yanıt veren hızlı çözücülere — ya da bir görev muhakeme gerektirdiğinde ve hızlı agent'ların üretebileceğinden daha iyi yanıtlar arandığında bilinçli olarak devreye sokulan "sistem 2" agent'larına yönlendiriliyor.

Her iki tür agent, iki paylaşılan bilgi yapısının üzerinde duruyor. İlki, sistemin ortamı hakkında sahip olduğu alan bilgisini tutan bir dünya modeli. İkincisi ise sistemin daha önce ne yaptığını ve çeşitli çözücülerinin gerçekte nelerde iyi olduğunu izleyen bir "self" modeli.

İkinci yapı, makalenin başlığındaki kavramın yaşadığı yer. Metacognition — kendi düşünmesi hakkında düşünme — açık bir mimari bileşene dönüşüyor: sistem, bir problemin hızlı yola mı ait olduğunu yoksa yavaş yolu mu gerektirdiğini judgedebilmek için kendi geçmişine ve yetenek envanterine başvuruyor. Bu, rutin görevlerden sorunsuzca geçip durum alışılmadık veya zorlaştığında dikkatli düşünmeye geçme alışkanlığının makine tarafından okunabilir bir versiyonu.

Neden önemli

Hızlı/yavaş ayrımı, modern yapay zekâ sistemleri kuran herkesin karşılaştığı bir soruna birebir oturuyor. Ucuz, anında yanıtlar çoğu zaman yeterlidir; ama bazı talepler pahalı muhakemeyi hak eder ve hangisinin hangisi olduğuna sistemin kendisi karar vermek zorundadır. Makalenin self modeli tam olarak bu karar mekanizması olarak sunuluyor; bu da öz-bilgiyi — geçmiş eylemlerin ve çözücü yeteneklerinin sürekli bir kaydı — sonradan ekilen bir ayrıntı değil, birinci sınıf bir tasarım öğesi olarak ele almayı öneriyor.

Tartışma ayrıca yalnızca veri ve hesaplama gücünü ölçeklemenin genel zekâya doğru boşluğu kapatacağı fikrine de karşı çıkıyor. Yazarlar, mevcut başarıların kısmen bu kaynakların ürünü olduğuna ve insan zekâsıyla ilişkilendirilen birçok yeteneğin hâlâ eksik olduğuna dikkat çekiyor; ne zaman daha derin düşünüleceğini bilmek, onlara göre eksik bileşenlerden biri. Agentic sistemler tasarlayan ekipler için makale, tırmanma (escalation) konusunda kullanılabilir bir sözlük sunuyor: rutin işler için hızlı agent'lar, zor durumlar için yavaş agent'lar ve aralarında yönlendirme yapan bir self model.