Araştırmacı, yapay zeka talepleri kamu hizmetlerini felç ederken 'agentic flooding' olayını takip ediyor

Birçok ülkedeki kamu hizmetleri şikayet, dilekçe ve başvurularda yaşanan sert artışları emmek durumunda kalıyor; yeni bir araştırmaya göre bu yükselişin ortak paydası üretken yapay zeka.

TechCrunch'a göre, Birleşik Krallık'ın konut ombudsmanına yapılan şikayetler ChatGPT'nin gelişinden sonra ikiye katlanarak 2022'de 2.600'den geçen yıl 7.000'in biraz üzerine çıktı. Aynı dönemde ABD Tüketici Finansal Koruma Bürosu beş kat artan şikayet kaydederken, Brezilya'daki yargı dilekçeleri ve Almanya'daki parlamento dilekçeleri de benzer sıçramalar yaşadı.

“Agentic flooding”ı takip etmek

Rakamlar, eğilimi gelecek ay AI Ethics and Society konferansında sunulması planlanan bir makalede belgeleyen araştırmacı Chris Schmitz'den geliyor. Schmitz, 11 yargı bölgesine yayılan ve sosyal yardım başvurularından resmi yargı itirazlarına kadar uzanan, “agentic flooding” dediği olguya ilişkin 84 şüpheli vakayı inceledi. Ortak nokta, tüm hizmetlerin bir yapay zeka asistanının kullanabileceği çevrimiçi bir arayüz sunması.

Metodolojik nedenlerle makale, yapay zekanın yükselişi doğrudan tetiklediği iddiasında bulunmaktan kaçınıyor. Ama örüntü tutarlı: 84 vakanın çoğunda başvuru hacimleri 2022 öncesinde kabaca düz seyrederken, yapay zeka araçları yaygınlaştıkça hızlandı. Çoğu durumda bu büyüme henüz düzleşmedi; Schmitz bunu, artışın yıllarca devam edebileceğine dair bir işaret olarak okuyor.

Azalan sürtünme

Schmitz yükselişi, başvuru yapmak için gereken eforun küçülmesine bağlıyor. TechCrunch'a verdiği demeçte, bir zamanlar bağlamı bir araya getirip erken bir modele büyük bir hassasiyetle prompt yazmayı gerektiren iş, artık bir mektubu Claude uygulamasıyla fotoğraflayıp tek seferde kullanılabilir bir yanıt almaya dönüşebiliyor. İnsanlar bu kanalların varlığını fark ettikçe ve araçlar kullanımı kolaylaştıkça hacim katlanıyor.

Bu dinamik, geçen yıl bug bounty programlarının yaşadığına benziyor; şirketler gelen kutularının büyük dil modelleriyle üretilmiş düşük kaliteli güvenlik raporlarıyla dolduğunu gördüler. Bu raporların çok azı gerçek zafiyetleri tarif ediyordu, ama her biri geldiğinde yine de incelenmek zorundaydı ve personelin zamanını tüketiyordu. Kamu kurumları aynı aritmetikle karşı karşıya kalabilir: değişmeyen bir bütçeyle birkaç kat fazla başvurucu.

Spam değil, gerçek hak sahipleri

Ancak çok önemli bir fark var. Bug bounty seli büyük ölçüde değersizdi. Schmitz, kamu hizmetlerinde durumun tam tersi olduğunu, yeni başvuruların çoğunun gerçek hak sahipliğine sahip insanlardan geldiğini söylüyor. "Bulduğumuz vakaların büyük çoğunluğu, bir şey için hak sahibi olan ve tam da o şey için başvuran insanlar," diyor.

Bu, sorunu yeniden çerçeveliyor. Politika açısından, bu insanların çoğunu daha önce idari yük caydırıyordu — bir başvuruda gezinmenin zaman, emek ve bilgi olarak gerçek maliyeti. Yapay zeka bu maliyeti düşürüp aksi halde terk edilecek başvuruların önünü açıyor. Yeni gelenleri yapay zeka üretimi spam olarak görmek, hak sahibi insanlara borçlu olunan haklardan etmek anlamına gelir; büyük ölçekte filtreleme de zaten kurumların kıt kaynaklarını tüketirdi.

Neden önemli

Hizmet işletmecileri için acil riskler operasyonel: eleme kapasitesi, doğrulama iş akışları ve bütçeler beş kat artan talebe ayak uyduramadı ve araştırma, büyüme eğrisinin henüz bitmekten uzak olduğunu gösteriyor. Makalenin nedensellik konusundaki ihtiyatı burada önemli — kurumlar henüz rakamlarını neyin yükselttiğini kanıtlayamıyor — ama onlarca bağımsız sistemdeki 2022 kırılma noktasını görmezden gelmek güç.

Daha derin riskler ise dağılıma ilişkin. Başka yerlerde çöp üreten aynı araçlar, bu durumda çoğunlukla hak sahibi insanların kendileri için tasarlanmış programlara ulaşmasına yardım ediyor. Schmitz, hükümetlerin bunu bastırılması gereken bir sorun olarak değil, hizmetlerin yapay zeka aracılı bir dünya için yeniden tasarlanması için bir fırsat olarak görmesi gerektiğini savunuyor. "Bu, 'bu sürecin nasıl göründüğüyle ilgili neredeyse her şeyi yeniden düşünmemiz gerekiyor' diyebileceğimiz an olabilir," dedi TechCrunch'a; iyi bir versiyonunun zaten var olduğuna dair kanıt olarak, bir vergi beyannamesinde bir yapay zeka aracı tarafından gerçekten yardım edilme deneyimine atıfta bulundu.

Açık soru, kamu kurumlarının bu süreçleri sel yükselmeden daha hızlı yeniden inşa edip edemeyeceği.