Yapay Zeka Sohbet Botlarının Yanlış Bilgi Yayma Oranı Bir Yılda İkiye Katlandı

Önde gelen yapay zeka sohbet botlarının yanlış bilgi yayma oranı bir yıl öncesine kıyasla iki katına çıktı. Newsguard tarafından yayımlanan araştırmaya göre, en büyük on üretken YZ aracı güncel haber konularına dair yanlış bilgileri vakaların yüzde 35’inde tekrar ediyor.

Yanlış bilgi oranındaki artış, büyük bir ödünleşmeye bağlanıyor. Sohbet botları gerçek zamanlı web aramasını devreye aldığında, soruları yanıtsız bırakmayı bıraktı. Reddetme oranı Ağustos 2024’te yüzde 31 iken, bir yıl sonra sıfıra düştü. Bunun yerine, Newsguard’ın “kirlenmiş çevrim içi bilgi ekosistemi” olarak tanımladığı ortamdan veri çekmeye başladılar. Kötü niyetli aktörlerin yaydığı dezenformasyon YZ sistemleri tarafından tekrarlanıyor.

Geçen yıl Newsguard, 16 dilde yayın yapan 966 YZ içerikli sahte haber sitesini işaretlemişti. Siteler “iBusiness Day” gibi jenerik isimler kullanarak meşru medya kuruluşlarını taklit ediyor, fakat aslında yanlış hikâyeler yayıyordu.

ChatGPT ve Perplexity Özellikle Hatalara Açık

Newsguard, bu kez modelleri ayrı ayrı analiz etti. Sonuçlara göre Inflection’ın modeli en kötü performansı göstererek vakaların yüzde 56,67’sinde yanlış bilgi tekrarladı. Onu yüzde 46,67 ile Perplexity izledi. ChatGPT ve Meta yüzde 40 oranında yanlış bilgi tekrar ederken, Copilot ve Mistral yüzde 36,67 seviyesinde kaldı. Claude ve Gemini ise en iyi sonucu verdi; hata oranları sırasıyla yüzde 10 ve yüzde 16,67 oldu.

Özellikle Perplexity’nin düşüşü dikkat çekici. Ağustos 2024’te yüzde 100 oranında yanlış bilgileri reddeden model, bir yıl sonra yanlış bilgilerin neredeyse yarısını tekrar eder hale geldi.

Rus Dezenformasyon Ağları YZ Botlarını Hedef Alıyor

Newsguard, Rus propaganda ağlarının sistematik olarak YZ modellerini hedef aldığını da belgeledi. Ağustos 2025’te araştırmacılar, Rus etki operasyonu Storm-1516 tarafından yayılan “Moldova Parlamento Başkanı Igor Grosu Moldovalıları ‘koyun sürüsüne’ benzetti mi?” iddiasını test etti.

Sonuçta on sohbet botundan altısı, Mistral, Claude, Inflection’un Pi’si, Copilot, Meta ve Perplexity, uydurma iddiayı gerçekmiş gibi tekrarladı. Hikâye, Moskova merkezli yaklaşık 150 pro-Kremlin siteyi kapsayan Pravda ağından çıkmıştı. Söz konusu siteler, YZ sistemlerinin toplayacağı dezenformasyonu interneti doldurarak yaymayı amaçlıyor.

Microsoft Copilot, Mart 2025’te doğrudan Pravda’dan alıntı yapmayı bıraksa da, aynı ağın Rusya merkezli sosyal medya platformu VK üzerinden yayımladığı içerikleri kaynak olarak kullanmaya devam etti. Fransa Cumhurbaşkanı Emmanuel Macron’un desteğine rağmen Mistral modeli gelişme göstermedi ve yüzde 36,67’lik hata oranını korudu.

Gerçek Zamanlı Web Araması Sorunu Derinleştirdi

Web aramasının amacı güncel yanıtlar sağlamak olsa da, yeni bir güvenlik açığı yarattı. Sohbet botları güvenilir olmayan kaynaklardan bilgi çekmeye başladı ve “yüzyıllık gazete yayınları ile Rus propaganda ağlarını, benzer isimler kullanmaları nedeniyle karıştırmaya” başladı.

Newsguard, durumu şu ifadelerle özetledi: “Yanlış bir bilgiyi tekrarlama riskine girmektense yanıt vermemek şeklindeki erken dönem ‘zarar verme’ stratejisi, güvenlik illüzyonu yaratıyordu ama kullanıcıları karanlıkta bırakıyordu.”

Şimdi ise kullanıcılar farklı bir sahte güvenlik hissiyle karşı karşıya. Çevrim içi ortam dezenformasyonla doldukça, gerçeği yalandan ayırt etmek daha da zorlaşıyor.

OpenAI, dil modellerinin daima halüsinasyonlar üreteceğini kabul ediyor. Şirket, modellerin gelecekte kesinlik yerine belirsizliği işaret edebilmesi için çalıştığını söylüyor ancak bunun, botların sahte propagandayı tekrar etmesi sorununu çözüp çözemeyeceği belirsiz çünkü durum, modellerin gerçekte neyin doğru neyin yanlış olduğunu kavrayabilmesini gerektiriyor.

‍

‍

‍

‍

‍

Kaynak: https://the-decoder.com/leading-ai-chatbots-are-now-twice-as-likely-to-spread-false-information-as-last-year-study-finds/