Deepfake Tanık Videosu Delil Diye Sunuldu, Yargıç Sahte Olduğunu Tespit Edip Davayı Düşürdü

California’daki bir konut anlaşmazlığı davasında görev alan Yargıç Victoria Kolakowski, davacılar tarafından sunulan 6C numaralı delilde bir gariplik olduğundan şüphelendi. Videoda yer alan tanığın sesi tekdüze ve kopuk şekilde geliyordu; yüzü bulanık, ifadesi donuktu. Her birkaç saniyede bir tanığın yüzü titriyor ve aynı mimikleri tekrar ediyordu. Kolakowski kısa süre içinde videonun kaynağını fark etti: Görüntü üretken YZ ile hazırlanmıştı. Gerçek bir tanığı gösterdiği iddia edilen video, hâkimin ifadesiyle bir YZ “deepfake” çalışmasıydı.

Söz konusu dava, Mendones v. Cushman & Wakefield, Inc., mahkemeye gerçekmiş gibi sunulan YZ-üretimi bir delilin tespit edildiği ilk örneklerden biri olarak değerlendiriliyor. Birçok yargıca ve hukuk uzmanına göre olay, çok daha büyük bir tehdidin habercisi niteliğinde.

Davacıların gerçek delilmiş gibi sunduğu YZ-üretimi materyal nedeniyle Kolakowski davayı 9 Eylül’de reddetti. Davacılar, hâkimin delilin YZ tarafından üretildiğini “şüphelendiğini ancak kanıtlayamadığını” öne sürerek kararın yeniden değerlendirilmesini talep etti. Kolakowski, 6 Kasım’da yeniden inceleme talebini reddetti. Davacılar, yorum talebine yanıt vermedi.

Giderek güçlenen YZ araçlarıyla birlikte, YZ tarafından üretilmiş içerikler mahkemelerde daha sık görülmeye başladı. Bazı yargıçlar, gerçeğe çok yakın sahte delillerin mahkemeleri doldurmasından ve karar süreçlerini tehdit etmesinden endişe duyuyor.

NBC News, üretken YZ’nin inanılır fake video, sahte görsel, belge ve ses kayıtları oluşturabilecek noktaya gelmesinin adalet sisteminin güven temelini zayıflatabileceğini söyleyen beş yargıç ve on hukuk uzmanıyla görüştü. Bazı yargıçlar farkındalık yaratmak için çaba gösteriyor ancak sürecin henüz başında olunduğunu belirtiyor.

Mendones davasından önce mahkemeler sıklıkla “Liar’s Dividend” olarak bilinen bir olguyla karşılaşıyordu. Taraflardan birinin, karşı tarafın deliline gölge düşürmek için o materyalin YZ tarafından üretilmiş olabileceğini öne sürmesi anlamına gelen bu kavram, genellikle gerçek delilleri tartışmalı hâle getiriyordu ancak Mendones davasında mahkeme, tam tersinin gerçekleştiğini belirledi: Davacıların YZ tarafından üretilmiş videoyu gerçek delilmiş gibi sunmaya çalıştığı sonucuna vardı.

Minnesota 10. Yargı Bölgesi’nde görev yapan ve Minnesota Yargı Birimi YZ Müdahale Komitesi başkanı olan Yargıç Stoney Hiljus, olayın yargıçlar arasındaki büyüyen bir kaygıyı ortaya çıkardığını söyledi. Hiljus, “Gerçek olmayan, YZ-üretimi bir materyale dayanarak karar vermek zorunda kalmaktan ve bunun insanların hayatında gerçek etkiler yaratmasından endişe eden çok sayıda yargıç var.” ifadelerini kullandı.

Ülke çapında birçok yargıç aynı görüşü paylaşıyor. YZ kullanımını mahkemelerde savunanlar bile riskleri kabul ediyor. Louisiana Beşinci Daire Temyiz Mahkemesi’nde görev yapan Yargıç Scott Schlegel, yargı sisteminde YZ teknolojisinin benimsenmesi gerektiğini savunan isimlerden biri olmasına rağmen, gerçeklik arayışını tehdit eden sahte içeriklerden kaygı duyduğunu ifade etti. Schlegel, “Eşimle 30 yılı aşkın süredir birlikteyiz ve sesim her yerde bulunuyor. Ücretsiz veya düşük maliyetli yazılımlarla kolaylıkla sesimi klonlayarak bana aitmiş gibi duran tehditkâr bir mesaj üretebilir ve herhangi bir adliyeye giderek bu kaydı sunabilir. Hâkim o uzaklaştırma kararını imzalar. Her seferinde imzalar. Sonuç olarak kedini, köpeğini, silahlarını, evini, her şeyini kaybedersin.” dedi.

California Santa Clara County Yüksek Mahkemesi’nde 2001’den beri görev yapan Yargıç Erica Yew, YZ’nın adalete erişimi artırma potansiyeli konusunda tutkulu olmakla birlikte, üretken YZ ile üretilmiş sahte seslerin kolaylıkla uzaklaştırma kararı çıkarılmasına yol açabileceğini belirtti. Ayrıca mahkemelerin deepfake vakalarını kaydedebileceği merkezi bir sistem bulunmamasından endişe duyduğunu söyledi. Yew, NBC News’e, “Mahkemelerin deepfake delillerle karşılaştığında bunu raporlayacağı veya kayda geçireceği bir arşiv bilmiyorum. YZ ile üretilmiş sahte veya değiştirilmiş delillerin kamuya yansıyandan çok daha sık yaşandığını düşünüyorum.” yorumunda bulundu.

Yew ayrıca deepfake içeriklerin, geleneksel olarak güvenilir kabul edilen delil kaynaklarını da zayıflatabileceğini belirtti. YZ sayesinde “biri kolaylıkla sahte bir tapu kaydı oluşturabilir ve araç sahipliğini kanıtlamak için ilçe kâtipliğine gidebilir” dedi. İlçe kâtibinin belgeyi doğrulamak için yeterli zaman veya uzmanlığa sahip olmaması büyük ihtimal. Yew şöyle devam etti: “Ardından taraflardan biri belgenin bir kopyasını alıp mahkemeye getirebilir ve hâkim büyük ihtimalle bunu kabul eder. Yani hâkim olarak, geleneksel olarak güvenilir kabul edilen bir delil kaynağını sorgulamam mı gerekecek?”

Yew’e göre sahte deliller uzun süredir mahkemeler için sorun olsa da YZ, gerçekçi ve sahte materyallerin ölçek olarak görülmemiş ölçüde artmasına neden olabilir. 

Schlegel ve Yew, mahkemelerde ortaya çıkan deepfake tehdidine karşı öncülük eden küçük bir yargıç grubunun parçası. Ulusal Devlet Mahkemeleri Merkezi ve Thomson Reuters Institute tarafından oluşturulan bir konsorsiyum da yargıçlara deepfake meselelerini ele almaları için kaynaklar sağlıyor.

Konsorsiyum, deepfake materyalleri “onaylanmamış YZ delili” olarak tanımlayarak bunları, tarafların YZ tarafından üretildiğini başlangıçta kabul ettiği “onaylanmış YZ delili” kategorisinden ayırıyor.

Konsorsiyum, yılın başlarında yargıçlara deepfake delillerle başa çıkma konusunda yardımcı olmak için bir rehber yayımladı. Doküman yargıçlara, potansiyel YZ-üretimi delillerin kaynağını açıklamalarını istemeyi, delile kimlerin eriştiğini tespit etmeyi, delilin değiştirilip değiştirilmediğini kontrol etmeyi ve destekleyici deliller aramayı tavsiye ediyor.

‍

‍

‍

‍

‍

‍

Kaynak: https://www.nbcnews.com/tech/tech-news/ai-generated-evidence-deepfake-use-law-judges-object-rcna235976