New Mexico Yüksek Mahkemesi, cinayet temyiz başvurusunda yapay zekânın uydurduğu tanıklar nedeniyle avukata 5.000 dolar ceza verdi

Mahkeme yaptırım uyguladı

New Mexico'nun en yüksek mahkemesi, bir cinayet davasında mahkûm müvekkili için sunduğu temyiz başvurusunun, bir yapay zekâ aracının uydurduğu tanıklara ve ifadelere dayandığının anlaşılması üzerine bir müdafii 5.000 dolar cezaya çarptırdı ve hakkında hakaret kararı verdi.

Reuters haberine dayandıran The Verge'ın aktardığına göre, New Mexico Yüksek Mahkemesi yaptırımı çarşamba günü sunduğu bir dosyada uyguladı. Mahkeme, avukat Stephen Aarons'un, yapay zekâ ile oluşturup sunduğu dilekçedeki gerçek iddiaları ve hukuki yetkileri kontrol etmediği sonucuna vardı.

Mahkemenin belirttiğine göre dilekçede, hiç var olmamış tanıkların ifadelerine, ayrıca failin kıyafeti ve görünümüne dair uydurulmış iddialara yer veriliyordu.

Ağustos duruşması

Ağustos ayındaki bir duruşmada Yargıç C. Shannon Bacon, Aarons'a haberlerde artık sıkça yer bulan bir riskten neden haberdar olmadığını sordu. Reuters'ın aktardığı gibi Bacon, "Sayın Avukat, haberleri izliyor musunuz?" sözleriyle başladı; radyo dinleyip dinlemediğini ya da güncel olaylar hakkında hiçbir şey okuyup okumadığını sorarak, yapay zekâ halüsinasyonlarına bel bağlayan avukatların artık neredeyse her gün manşetlere taşındığını ekledi.

Aarons, başvuruyu hazırlarken ChatGPT kullandığını kabul etti ve aracın dava hakkında "kuşkunca sağlam bir özet" üreteceğini varsaydığını söyledi.

Reuters'a yaptığı açıklamada Aarons yaşananlardan pişmanlık duyduğunu ve disiplin kurulunun bunun dürüst bir hata olduğunu dikkate almasını umduğunu belirtti. Kurulu anması, sürecin çarşambaki ceza ile sınırlı kalmayabileceğine işaret ediyor.

Mahkemeler aynı hatayı yakalamaya devam ediyor

New Mexico davası, yapay zekâ kaynaklı mahkeme hatalarının uzayan listesine eklendi. The Verge, geçen yıl bir yargıcın çok sayıda yanlış ve yanıltıcı hukuki atıf içeren bir dilekçe nedeniyle iki hukuk bürosunu azarlamasını ve MyPillow'un sahibi Mike Lindell'in avukatlarının bir dosyada yapay zekânın ürettiği yanlış alıntılar ve uydurma atıflar nedeniyle cezalandırılmasını hatırlatıyor. The Verge ayrıca, daha fazla avukat yapay zekâ araçlarını benimseyedikçe mahkemelerin bu tür sorunları daha sık ortaya çıkardığına dikkat çekiyor.

Ancak burada niteliksel bir fark var. Önceki olayların çoğu halüsinasyon görmüş içtihatla ilgiliydi — gerçek gibi görünen ama bulunamayan kararlar ve alıntılar. Mahkemenin aktardığına göre Aarons'un temyiz başvurusunda uydurmalar davanın kendisinin gerçeklerine uzanıyordu: tanık olarak gösterilen uydurma kişiler ve failin görünümüne dair sahte betimlemeler; üstelik bir cinayet mahkûmiyetinin söz konusu olduğu bir davada.

Neden önemli

Yaptırım, halüsinasyonun yalnızca atıflarla sınırlı olmadığını gösteriyor. Dil modelleri gerçek dünya bilgilerini de uyduruyor ve bunlar hukuki bir dosyaya girdiğinde davanın kaydının kendisini çarpıtabilir — bu, var olmayan bir içtihada atıf yapmaktan daha temel bir hatadır.

Bu karar aynı zamanda sorumluluğun nerede olduğunu da teyit ediyor. Mahkemeler yapay zekâ araçları kullanmanın kabul edilebilir olduğunu, ancak çıktılarını doğrulamadan sunmanın kabul edilemez olduğunu gösterdi. Buradaki yaptırım — 5.000 dolar ceza artı hakaret kararı ve önde olası ek disiplin incelemesi — sonuçların uyarılardan maddi yaptırımlara doğru sertleştiğini gösteriyor.

Müvekkil için sonuçları ağır olabilir: uydurma delil iddiaları tek başına bir temyiz başvurusunu batırabilir ve yanlarında yer alan meşru gerekçeleri de lekeliyebilir.

Ve Yargıç Bacon'ın soruları, yapay zekâ halüsinasyonundan habersiz olmanın artık bir mazeret sayılmadığını açıkça ortaya koyuyor. Risk, mesleğin içinde bilinen bir bilgi olarak görülüyor ve avukatların, bir modelin ürettiği her şeyi mahkeme görmeden önce doğrulaması bekleniyor.