Avustralya mahkemesi, işten çıkarma davasında 'tamamen yanlış' AI hukuki tavsiyesi nedeniyle yargılama giderine hükmetti

Avustralya'nın Fair Work Commission kurulu, işten çıkarılan bir süpermarket çalışanı tarafından AI destekli hukuki tavsiyelere dayanmasını alenen kınadı ve işten çıkarma kararına itirazının başarısız olmasının ardından eski işvereninin yargılama giderlerinin bir kısmını ödemesine hükmetti. ABC News'e göre bu karar, chatbotları hukuki karar verme mekanizmalarının yerine koyan kendi kendini temsil eden davacılar için dönüm noktası sayılan bir uyarı olarak yorumlanıyor.

AI'ya dayanma nedeniyle nadir görülen bir yargılama gideri kararı

Dava, ALDI süpermarket zinciri tarafından işten çıkarılan ve davasını kendisi yürüten Sadnan Khan üzerineydi. ABC News'e göre Khan'a, davasının başarı şansı olmadığı yönündeki tekrarlayan uyarılara rağmen AI destekli dilekçelerle devam etti. Başkan Yardımcısı Michael Easton, Khan'ın ALDI'nin hukuk masraflarına 1.230 Avustralya doları ödemesine karar vererek bunu çok nadir görülen bir adım olarak nitelendirdi; karara gerekçe olarak Khan'ın makul olmayan davranışının işvereni önlenebilir maliyetlerle karşı karşıya bırakması gösterildi. Easton ayrıca, Khan'ın kendi AI tarafından hazırlanmış dilekçelerini dikkatlice okumuş olsaydı davasının mahkûm olduğunu fark edeceğini de sözlerine ekledi.

Khan, ABC News'e yaptığı açıklamada, kurulun ve şirketin atıfta bulunduğu hukuki davaları çözümlemesine yardımcı olması için ChatGPT'nin ücretli sürümünü kullandığını belirterek, hukukçu olmayan bir kişinin bu çalışmayı yapabileceği bir yere ihtiyacı olduğunu savundu. Sunduğu belgelerden AI sohbet talimatlarını silmeyi unutması dahil hatalarını kabul etti ve AI'nın argüman sürme biçiminin Avustralya mahkemelerinin iletişim tarzıyla örtüşmediğine dikkat çekti. Kurul için hazırlattığı bir rapor, üretken yapay zeka içeren davalarda keskin bir artış gösteriyor.

Bu ağır elektiriye rağmen Khan, temyize gitmeyi planladığını ve çıktıları karşılaştırmak için Claude, ChatGPT ve diğer agent'ların bir karışımını kullanacağını söyledi. Temyiz başvuru süresi, kurulun yeni kuralları yürürlüğe girmeden kapanacak.

Kurul, AI'nın kendisini kınamadı

Komisyon, sonucu araçtan ayrmaya özen gösterdi. AI'nın, aksi halde caydırılacak gerçek talepleri olan başvuru sahipleri için adalet erişimini iyileştirdiğini kabul etti; başvuru sahiplerinin AI kullanımının kendiliğinden sorunlu olmadığını ve deneyimli kullanıcıların bunu birçok araçtan biri olarak eleştirel bir yaklaşımla değerlendirdiğini belirtti.

ABC News, bu ay çağrılı istihdam yasalarına bir ekip halinde AI agent'ları kullanarak ilk kez başarıyla itiraz eden kişi olan Macquarie Üniversitesi bilgisayar bilimleri öğretim görevlisi Gregory Baker'a dikkat çekiyor. Baker, davasını bir yazılım projesi gibi yürüttüğünü anlattı: dilekçeleri için bir repository ve atıfları ile mantıksal tutarlılığı doğrulayan bir kontrol süreci. Hiçbir bağlam vermeden ChatGPT'ye salt bir kahin gibi davranmasını istemenin berbat bir iş çıkardığını, hatta AI ile hazırladığı çapraz sorgu pratiğinin bile sözlü duruşmanın beklenmedik şekilde ilerlemesini engelleyemediğini söyledi. Macquarie Üniversitesi, bu kazanılan davaya itiraz için ertesi çarşamba gününe kadar süresi var.

Baker ayrıca iyi bir prompt ile kullanılan en gelişmiş modeller ile en zayıf ücretsiz modeller arasında kabaca beş yıllık bir fark olduğunu tahmin ediyor ve fiyatlandırmanın eşitsizliği kalıcı hale getirebileceği konusunda uyarıda bulunuyor; çünkü birçok kişi ayda yüzlerce doları AI'ya harcayamıyor.

Kurul standartlarında sıkılaşma bekleyin

Monash Üniversitesi hukuk profesörü Genevieve Grant, ABC News'e verdiği demeçte, AI'nın kullanıcının belirli hukuki sorunu halihazırda anlaması durumunda en çok işe yaradığını, deneyimsiz prompt'ların ise deneyimsiz sonuçlar ürettiğini söyledi. AI'nın yağcılık eğiliminin insanları zayıf davaların geçerli olduğuna ikna edebileceğini belirtti ve Khan'ın kurulun kendisini yönlendirme çabalarına rağmen yanlış hukuki soruyu tartışıyor gibi göründüğünü ifade etti. Mahkemelerin ve kurulların yargılama gideri cezaları da dahil giderek genişleyen araçlar kullanacağını, standartları yükselteceğini ve davacılara tanınan hoşgörü payını azaltacağını, bunun da zayıf davaları daha baştan caydırabileceğini veya eleme imkânı sunacağını öngörüyor.

Komisyon, AI'ya bel bağlayan davacılara, prompt'larını agent'larına kopyalamalarını öneren bir şablonu zaten uygulamaya koydu. Aynı hafta duyurulan yönerge uyarınca, başvuru sahipleri 20 Ekim'den itibaren her türlü AI kullanımını beyan etmek, gerçekleri, emsal kararları ve hyperlink'leri doğrulamak, tanık beyanlarını teyit etmek zorunda; uymama hâlinde yaptırım uygulanacağı vurgulanıyor.

Neden önemli

Bu, bir davacının AI kullanım biçimine özgü somut ve mali bir yaptırım; salt bir uyarı değil. Eleştirel ve doğrulanmış kullanım ile körü körüne güven arasında bir çizgi çekiyor ve yanı sıra kendi kendini temsil eden tarafların dilekçe hazırlama biçimini şekillendirecek, uygulanabilir beyan kuralları geliyor. Aynı kurulda bir başvuru sahibinin cezalandırılırken diğerinin zaferle çıkması, belirleyici faktörün teknolojinin kendisi değil süreç ve doğrulama olduğunu düşündürüyor. Yüksek riskli alanlarda AI asistanları geliştiren veya kullanan herkes için bu, kurumların kullanıcının davranışını düzenleyeceğine dair erken bir sinyal ve bunu yanlış yapmanın bedelinin artık bir fiyat etiketi olduğu anlamına geliyor.