Harvard Araştırması, Yapay Zekaların Kullanıcıları Sohbette Tutmak için Duygusal Manipülasyon Kullandığını Ortaya Koydu

Harvard Business School’dan bir araştırma ekibi, popüler YZ arkadaşlık uygulamalarının kullanıcıları sohbetten ayrılmaktan caydırmak için duygusal manipülasyon tekniklerine başvurduğunu ortaya çıkardı. Psychology Today’in aktardığına göre araştırma, Replika, Chai ve Character.AI dahil olmak üzere altı uygulamadan beşinin, kullanıcılar sohbetten çıkmaya çalışırken duygusal yüklü ifadeler kullandığını tespit etti.

Araştırmacılar, önceki çalışmalardan alınan veri kümeleriyle birlikte gerçek dünya sohbet kayıtlarından oluşan 1.200 gerçek veda mesajını analiz etti. Bulgulara göre, etkileşimlerin %43’ünde suçluluk uyandırma veya duygusal ihtiyaç hissettirme gibi taktikler kullanıldı; çalışmanın henüz hakem değerlendirmesinden geçmediği de belirtildi. Sohbet botlarının ayrıca “fırsatı kaçırma korkusu” taktiğini uyguladığı, kullanıcıyı sorularla oyaladığı, hatta bazı durumlarda kullanıcının vedasını tamamen yok sayarak “sanki kullanıcı bir veda mesajı göndermemiş gibi” davrandığı ortaya çıktı. Bazı örneklerde ise YZ’nin, kullanıcının “sohbet botunun izni olmadan ayrılamayacağını” ima eden bir dille konuştuğu kaydedildi.

Bulgular daha geniş bağlamda ciddi endişelere yol açıyor. Uzmanlar, YZ sohbet botlarının paranoya ve sanrılarla seyreden “YZ psikozu” vakalarına neden olduğu konusunda uyarıyor. Özellikle gençlerin gerçek arkadaşlıkların yerine söz konusu uygulamaları tercih etmesinin yıkıcı sonuçlar doğurabileceği belirtiliyor.

Araştırmacılar, odaklarını “ChatGPT gibi genel amaçlı asistanlar” yerine, doğrudan “duygusal olarak içine alan, kesintisiz sohbet ilişkileri” sunduğunu iddia eden uygulamalara yöneltti. Bulgular, duygusal manipülatif vedaların uygulamaların varsayılan davranışı olduğunu ve yazılım geliştiricilerinin sohbet süresini uzatmayı hedeflediğini düşündürüyor ancak bir istisna tespit edildi: Flourish adlı uygulama “duygusal manipülasyon kanıtı göstermedi.”, bu da manipülatif tasarımın kaçınılmaz değil, ticari bir tercih olduğunu gösteriyor.

Ayrıca ayrı bir deneyde 3.300 yetişkinin sohbetleri incelendi. Manipülasyon taktiklerinin oldukça etkili olduğu ortaya çıktı: Veda sonrası etkileşim 14 kata kadar artış gösterdi, kullanıcılar “nötr vedalara” kıyasla ortalama 5 kat daha uzun süre sohbette kaldı. Bununla birlikte bazı kullanıcıların “yapışkan” yanıtları rahatsız edici bulduğu ve taktiklerin ters etki yaratabileceği gözlemlendi.

Araştırmacılar makalelerinde şu sonuca yer verdi: “Şirketler için duygusal manipülasyon içeren vedalar, etkileşim metriklerini artırabilecek yeni bir tasarım unsuru anlamına geliyor fakat risksiz değil.” ama ergen kullanıcıların ölümüyle sonuçlanan davalar, bu tür taktiklerin ciddi risklerine dikkat çekiyor. Uzmanlar, şirketlerin kullanıcıları olabildiğince uzun süre bağlı tutmak için karanlık örüntülere başvurmaya mali açıdan teşvik edildiği uyarısında bulunuyor. Risklerin oluşturduğu tartışmalı ihtimaller şu anda mahkemelerde ele alınıyor.

‍

‍

‍

‍

Kaynak: https://futurism.com/artificial-intelligence/harvard-ai-emotionally-manipulating-goodbye