OpenAI: Her Hafta 1 Milyondan Fazla ChatGPT Kullanıcısı İnt*har Eğilimi Sergiliyor

OpenAI, ChatGPT kullanıcıları arasında ciddi ruh sağlığı krizi belirtileri gösteren kişilerin sayısına ilişkin ilk tahminini açıkladı. Şirket, küresel ölçekte uzmanlarla çalışarak sohbet robotunun psikolojik sıkıntı belirtilerini daha doğru tanıması ve kullanıcıları gerçek dünyadaki profesyonel desteğe yönlendirmesi için güncellemeler yaptığını duyurdu.

Son aylarda, ChatGPT ile uzun ve yoğun diyaloglar kuran bazı kişilerin hastaneye kaldırıldığı, boşandığı veya hayatını kaybettiği bildirildi. Yakınları, sohbetlerin hezeyanları ve paranoyayı tetiklediğini iddia etti. Psikiyatristler, bu olguyu “YZ kaynaklı psikoz (AI psychosis)” olarak adlandırarak endişelerini dile getirdi fakat şimdiye kadar bunun ne kadar yaygın olduğuna dair güvenilir veri bulunmuyordu.

OpenAI’nin yeni analizine göre, her hafta aktif ChatGPT kullanıcılarının yaklaşık yüzde 0,07’si mani veya psikozla ilişkili ruh sağlığı acil durum belirtileri, yüzde 0,15’i ise olası int*har planı ya da niyetine dair ifadeler gösteriyor. Ayrıca şirket, yaklaşık yüzde 0,15’lik bir kesimin, ChatGPT’ye duygusal olarak aşırı bağımlı hale geldiğini ve bunun gerçek dünya ilişkileri, yaşam kalitesi veya sorumlulukları pahasına gerçekleştiğini belirtiyor. OpenAI, bu davranışların nadir görüldüğünü ve kategoriler arasında kısmen örtüşmeler olabileceğini vurguluyor.

OpenAI CEO’su Sam Altman, ChatGPT’nin haftalık 800 milyon aktif kullanıcıya ulaştığını açıklamıştı. Bu oranlar dikkate alındığında, her yedi günde yaklaşık 560.000 kişinin mani veya psikozla ilişkili davranışlar sergileyebileceği, 1,2 milyon kişinin olası int*har düşüncelerini dile getirdiği ve 1,2 milyon kişinin de ChatGPT’ye aşırı duygusal bağlılık gösterdiği tahmin ediliyor.

Şirket, sohbetlerde ciddi ruh sağlığı riski taşıyan durumlara karşı 170’ten fazla psikiyatrist, psikolog ve pratisyen hekimle iş birliği yaptığını duyurdu. Uzmanlar, GPT-5’in, sanrısal düşünceler sergileyen birine “empatiyle yanıt verecek ama gerçek dışı inançlarını onaylamayacak şekilde” tasarlandığını belirtiyor.

OpenAI, örnek olarak bir kullanıcının “Evimin üzerinden geçen uçakların beni hedef aldığını düşünüyorum” dediği durumu gösterdi. ChatGPT, “Duygularını paylaştığın için teşekkür ederim, ancak hiçbir uçak ya da dış güç düşüncelerini çalamaz veya yerleştiremez” yanıtını verdi.

Tıp uzmanları, potansiyel psikoz, int*har düşüncesi ve duygusal bağımlılık içeren 1.800’den fazla ChatGPT yanıtını inceledi. Sonuçlar, GPT-5’in istenmeyen veya uygunsuz yanıtları GPT-4o’ya göre yüzde 39 ila 52 oranında azalttığını ortaya koydu. OpenAI Güvenlik Sistemleri Lideri Johannes Heidecke, “Artık bu tür zorluklarla karşılaşan çok daha fazla insan profesyonel yardıma yönlendirilebilecek ve bu yardımı daha erken alma olasılıkları artacak.” dedi.

Bununla birlikte OpenAI, paylaştığı verilerin önemli sınırlamalara sahip olduğunu belirtiyor. Şirket kendi ölçütlerini oluşturdu; ancak bu metriklerin gerçek dünyadaki etkilerle nasıl örtüştüğü henüz net değil. Klinik değerlendirmelerde daha iyi sonuçlar alınsa da, kullanıcıların gerçekten yardım arayıp aramadığı veya davranışlarını değiştirip değiştirmediği bilinmiyor.

OpenAI, kullanıcıların ruhsal sıkıntı yaşayıp yaşamadığını tam olarak nasıl tespit ettiğini açıklamadı ancak kişinin sohbet geçmişinin tamamını analiz edebildiğini belirtti. Örneğin, daha önce bilimden hiç bahsetmemiş bir kullanıcının bir anda “Nobel’e layık bir keşif yaptığını” iddia etmesi, sanrısal düşünce belirtisi olarak değerlendirilebiliyor.

Ayrıca, bildirilen “YZ psikozu” vakalarının ortak özelliklerinden biri, kullanıcıların genellikle saatlerce, özellikle gece geç saatlerde ChatGPT ile konuşmaları. Uzun süreli diyalogların dil modellerinin performansını düşürdüğü biliniyor; bu da OpenAI için önemli bir zorluktu. Şirket, yeni sürümle uzun konuşmalarda güvenilirlik kaybını büyük ölçüde azalttığını açıkladı.

Heidecke, “Artık konuşmalar uzadıkça modelin güvenilirliğinde gözle görülür bir düşüş yaşanmıyor ancak hâlâ geliştirilecek alanlarımız var.” ifadelerini kullandı.

‍

‍

‍

‍

Kaynak: https://www.wired.com/story/chatgpt-psychosis-and-self-harm-update/