Avustralya’da Cinayet Davasında Yapay Zeka Kaynaklı Sahte Belgeler Kriz Yarattı

Avustralya’da bir cinayet davasında, yapay zeka tarafından üretilmiş sahte alıntılar ve var olmayan mahkeme kararlarının savunma belgelerine dahil edilmesi büyük tartışma yarattı. Victoria eyaletindeki Yüksek Mahkeme’de yaşanan olay, hukuk sistemlerinde YZ’nin yol açtığı sorunlara eklenen yeni bir örnek oldu.

Savunma avukatı Rishi Nathwani, “King’s Counsel” unvanına sahip deneyimli bir hukukçu olarak, hatalı belgelerin mahkemeye sunulmasından dolayı “tam sorumluluğu üstlendiğini” belirtti. Nathwani, Çarşamba günü Yargıç James Elliott’a “Yaşananlardan dolayı derin bir üzüntü ve utanç içindeyiz.” diyerek özür dilemek zorunda kaldı.

YZ kaynaklı hatalar, Yargıç Elliott’un Çarşamba günü sonuçlandırmak istediği davanın 24 saat ertelenmesine neden oldu. Perşembe günü açıklanan kararda, kimliği reşit olmadığı için açıklanmayan sanığın cinayetten değil zihinsel yetersizlik nedeniyle suçsuz olduğuna hükmedildi. Yargıç Elliott, “Az söylemek gerekirse, olayların bu şekilde gelişmesi tatmin edici olmamıştır.” dedi. Ayrıca “Mahkemenin, avukatların sunduğu bilgilerin doğruluğuna güvenebilmesi adaletin düzgün işlemesi açısından temel öneme sahiptir.” ifadelerini kullandı.

Hazırlanan belgelerde eyalet meclisinde yapılmış gibi gösterilen sahte konuşma alıntıları ve Yüksek Mahkeme’den alınmış gibi sunulan hayali dava kararları yer aldı. Yargıç Elliott’un yardımcıları bu kararların izini sürmeye çalıştığında kaynak bulunamadı ve savunma ekibinden kopyaları talep etti. Avukatlar, belgelerde geçen alıntıların “var olmadığını” ve sunulan ifadelerin “uydurma olduğunu” kabul etti. Savunma ekibi, başlangıçtaki bazı atıfların doğruluğunu kontrol ettiklerini, kalan kısımları ise yanlışlıkla güvenilir kabul ettiklerini belirtti. Belgeler aynı zamanda savcı Daniel Porceddu’ya da gönderildi ancak savcı da içeriklerin doğruluğunu kontrol etmedi.

Yargıç Elliott, geçtiğimiz yıl yayımlanan rehberi hatırlatarak “Yapay zekanın ürünü, bağımsız şekilde ve titizlikle doğrulanmadıkça kullanılabilir değildir” dedi. Belgelerde kullanılan YZ sisteminin hangisi olduğu ise açıklanmadı.

2023 yılında Amerika Birleşik Devletleri’nde, ChatGPT’nin sahte hukuk kararları üretmesi nedeniyle iki avukat ve bir hukuk bürosuna 5.000 dolar para cezası verilmişti. Federal yargıç P. Kevin Castel, avukatların kötü niyetle hareket ettiğini belirterek, özürlerini ve aldıkları önlemleri dikkate almış ve daha ağır yaptırımlara gerek görmemişti. Aynı yıl, eski ABD Başkanı Donald Trump’ın avukatı Michael Cohen adına hazırlanan belgelerde de YZ tarafından uydurulmuş kararlar yer almıştı. Cohen, kullandığı Google tabanlı aracın “YZ halüsinasyonu” üretebileceğini fark etmediğini söyleyerek sorumluluğu üstlenmişti.

İngiltere’de ise Yüksek Mahkeme yargıcı Victoria Sharp, Haziran ayında yaptığı açıklamada, yanlış bilgilerin gerçekmiş gibi sunulmasının mahkemeye saygısızlık sayılabileceğini, hatta “en ağır durumlarda adaletin seyrini saptırma” suçu kapsamında değerlendirilebileceğini belirtti. Bu suçun cezası müebbet hapis olabiliyor.

ABD’de YZ’nin mahkeme salonlarına farklı şekillerde girdiği örnekler de görülüyor. Nisan ayında Jerome Dewald adlı bir kişi, New York’taki duruşmasında kendisini temsilen YZ ile oluşturulmuş bir avatarın konuştuğu bir video sundu. Mayıs ayında ise Arizona’da trafik öfkesi sonucu öldürülen bir kişinin ailesi, YZ’den yararlanarak ölen kişinin kendi sesinden bir “mağdur beyanı” okuduğu video hazırladı ve mahkemeye sundu.

‍

‍

‍

‍

Kaynak: https://www.cbsnews.com/news/australia-murder-case-ai-court-filings-fake-quotes-nonexistent-judgments/