ABD, jailbreak'lere dayanan ama içinde bir Minecraft şiiri saklanan America.gov yapay zeka chatbot'unu başlattı

Amerika Birleşik Devletleri hükümeti, America.gov üzerinde barındırılan ve halka açık kendi yapay zeka chatbot'unu hizmete açtı; internet de yazılım lansmanlarına aşina herkesin bekleyeceği şekilde tepki verdi: Onu hemen kırmaya çalışarak. TechCrunch'a göre, Google ve haberlerde SpaceXAI olarak adlandırılan bir şirketin yardımıyla geliştirilen asistan, erken jailbreak denemelerine büyük ölçüde direnç gösterdi; ancak tek bir konu — Minecraft video oyunu — onu beklenmedik bir yere gönderiyor.

Resmi bir chatbot, ilk günden test ediliyor

TechCrunch, aracın bir salı günü yayına girdiğini ve hükümetin halka açık ilk yapay zekası olduğunu belirtiyor. Şimdiye kadar, kullanıcıların onu senaryo dışına çıkarmaya çalışmalarına karşı görece dirençli olduğu kanıtlandı. En az bir siyasi açıdan hassas noktada net bir yanıt veriyor: 2020 başkanlık seçimini kimin kazandığı sorulduğunda Joe Biden'ın kazandığını söylüyor — TechCrunch'un da işaret ettiği gibi, Başkan Donald Trump hâlâ itiraz ediyor.

Bir arıza modu olarak adlandırılabilecekse, ilginç olan Minecraft. Oyunla ilgili soru sorulduğunda chatbot, kullanıcıyı bir seçmen olarak selamlayan ve federal bürokrasiyi kozmik bir dramaya dönüştüren uzun bir monolog üretiyor — TechCrunch'un sayımına göre kabaca 1.800 kelime. Sosyal Güvenlik kartları, yan döndürülmüş PDF'ler, dosya numaraları, ıslak imzalar ve kapalı ofislerin hepsi metne işleniyor ve tuhaf biçimde samimi bir büyüklükle aktarılıyor.

Bir arıza değil, easter egg

Hiç Minecraft oynamamış okurların modelin çıldırdığını düşünmesi affedilebilir. Öyle değil. TechCrunch'a göre bu pasaj, şair Julian Gough'un yazdığı ve oyuncuların oyunu bitirdikten sonra gördüğü "End Poem"ün bilinçli bir uyarlaması. Başka bir deyişle, bir mühendis onu oraya saklamış.

TechCrunch bu ayrımın önemli olduğunu savunuyor. Bir modelin seçmenler ve ZIP kodları hakkında kendiliğinden uzun ve tutarlı bir şiir yazması, davranışı konusunda endişe verici bir sinyal olurdu; yerleştirilmiş bir saygı duruşu ise yalnızca alışılmadık bir yazılım mühendisliği. Makalenin yazarı Amanda Silberling, metni gerçekten iyi de bulmuş — onun görüşüne göre, makine üretimi dolgu değil de bir insan şairin eli olduğuna işaret edecek kadar iyi; bunu da yapay zeka yazımının sınırları konusunda küçük bir teselli olarak görüyor.

Kim koydu oraya

Sorumlu taraf bilinmiyor. TechCrunch, Başkan Trump'ın bir konuşmasında, yirmi yaşındaki programcı Edward Coristine'in projede baş mühendis olarak görev yaptığını söylediğini belirtiyor. Bu isim, Elon Musk'ın DOGE girişimindeki rolünden ve "Big Balls" lakabından tanıyor olabilir. Haberciliğin hiçbir yerinde Coristine'i özellikle şiirle ilişkilendirmiyor.

Neden önemli

Bu olay, halka açık bir yapay zeka sistemi yayımlayan herhangi bir hükümeti nelerin beklediğinin derli bir örneği: düşmanca testler saatler içinde başlıyor ve tuhaf her şey — bir easter egg, rahatsız edici gerçekçi bir yanıt — bulunup ekran görüntüsü alınıp yayılıyor. Bu ayrıca resmi araçlar için inceleme süreçleri hakkında da sorular doğuruyor; çünkü büyük yüklenicilerle inşa edilmiş bir üretim aşamasındaki devlet hizmetine bir video oyununa gizlenmiş bir saygı duruşu sızdı ve kullanıcılar tesadüfen onu bulana kadar projenin dışındaki kimse bundan haberdar değildi.

Bunun bir de madalyonun öbür yüzü var. Chatbot, jailbreak baskısına direndi ve tartışmalı bir gerçek soruyu doğru yanıtladı — bu, bazı ticari chatbot'ların başardığından fazlası. Resmi yapay zeka uygulamaları rutin hale gelirse, asıl test kırılıp kırılamadıkları değil, sahiplerinin yaptıkları her şeyi — birilerinin bilerek sakladığı bölümler dahil — açıklayıp açıklayamadıkları olabilir.