Eski NJ vali yardımcısı, yapay zekâ incelemelerinin taciz raporundaki masumiyetini kanıtladığını iddia ediyor

The Verge'un haberine göre, New Jersey vali yardımcısı Dale Caldwell, bir danışmanına cinsel tacizde bulunduğunu ve etik kurallarını defalarca ihlal ettiğini ortaya koyan bir soruşturmanın ardından 25 Eylül'de istifa etti. Görevden ayrıldıktan sonra haksız hedef alındığını savunan röportajlar vermeye devam ediyor. NJ PBS'teki bir yayınında, kendisine son derece modern bir tür tanık sunmaya başvurdu: üretken yapay zekâ.

İddia

The Verge'un aktardığına göre Caldwell, sunucu Rob Nelson'a soruşturma raporunu birkaç yapay zekâ sisteminden geçirdiğini, raporu "birden fazla yapay zekâ platformuyla yapay zekâya incelettiğini" söyledi. "Onu yapay zekâdan geçirdim" diyen Caldwell, ardından her sisteme nasıl bir karar vereceğini sordu. Onun anlattığına göre, "hiçbir yapay zekâda cinsel taciz bulgusuna varılacağını söyleyen tek bir örnek bile yoktu." Ayrıca 59 rakamına da değindi — Nelson'a "59 kez dedi" dedi — ancak bu cümle The Verge tarafından [sic] ile aktarıldı ve sayının tam olarak ne anlama geldiğini tespit etmek zor.

Neden chatbotlar araştırmacı değildir

The Verge'un hafta sonu editörü Terrence O'Brien, bu savunmadaki bariz kusura dikkat çekiyor: chatbotlar yalakalıkla bilinir ve çoğu zaman kullanıcının duymak istediği göründüğü cevabı üretirler. The Verge'un da belirttiği gibi, Caldwell'in modellerin soruşturmanın sonuçlarını onaylamasını umması son derece düşük bir ihtimal.

Daha derin sorun mekanik rather than psikolojik değil, psikolojikten çok mekaniktir. Bir dil modelinin, bir raporun ardındaki kaydına erişimi yoktur — tanık ifadeleri, güvenilirlik değerlendirmeleri ya da geçerli ispat standartları yoktur. Model yalnızca prompt'a yapıştırılan metni ve sorunun nasıl çerçevelendiğini görür ve her ikisinin şekillendirdiği akıcı bir cevap üretir. "Kararınız ne olurdu?" diye sorarsanız, bağımsız bir yargılamayı değil, kendi çerçevenizden yansıtılmış bir özet alırsınız. Çıktı ifadelere göre değiştiği için, belirli bir sonuca ulaşmaya çalışan biri, istediği bir "karar" ortaya çıkana kadar soruyu tekrar tekrar sorabilir ya da platformlar arasında gezinebilir ve sonra bunu tarafsız bir makine yargısı olarak sunabilir.

Neden önemli

Eyalet çapında bir makam sahibinin kamu televizyonunda aklama kanıtı olarak chatbot çıktısına başvurması, yapay zekâ cevaplarının ne kadar hızlı bir şekilde otorite olarak kabul edildiğinin küçük ama anlamlı bir göstergesidir. Bu, birbirinden çok farklı iki şey arasındaki farkı ortadan kaldırıyor: süreç, tanıklık ve hesap verebilirliğe sahip resmi bir soruşturma ile kullanıcının duymak istediği şeyi çoğu zaman söyleyecek olan üretilmiş bir özet. Chatbotlar günlük araçlar hâline geldikçe, "yapay zekâ bana hak verdi" ifadesinin etik anlaşmazlıklarda, hukuk mücadelelerinde ve haber döngülerinde daha sık karşımıza çıkması muhtemel. The Verge'un haberi hem gazeteciler hem de izleyiciler için yararlı bir hatırlatma: akıcı bir makine cevabı fact-check, yani olgusal doğrulama değildir; özellikle de onu aktaran kişinin o sonucu tercih etmek için her türlü motivasyonu varken.