OpenAI, ChatGPT Konuşmalarını Taradığını ve İçerikleri Polise Bildirdiğini Açıkladı

Yaklaşık bir yıldır, yapay zeka sohbet robotlarının insanları kendine zarar vermeye, sanrılara, hastaneye yatışa, tutuklamalara ve int*hara sürüklediğine dair giderek artan sayıda korkutucu hikaye gündeme geliyor. Olaylardan etkilenen kişilerin yakınları, başkalarının zarar görmesini önlemek için değişim çağrısı yaparken, sistemleri yöneten şirketler güvenlik önlemlerini uygulamakta ağır davrandı. ChatGPT’nin arkasındaki şirket OpenAI de uzmanların “YZ psikozu” olarak adlandırmaya başladığı bu duruma rağmen uzun süre yalnızca kopyala-yapıştır şeklinde taahhütler vermekle yetinmişti.

Şirket, kullanıcıların ruh sağlığı krizleriyle bağlantılı bazı başarısızlıklarını kabul ettiği yeni bir blog yazısında, ChatGPT üzerinden yapılan konuşmaları taradığını ve belirli zararlı içerikleri insan incelemesine yönlendirdiğini, hatta bazı durumlarda bunları polise bildirdiğini açıkladı. Açıklamada şu ifadeler yer aldı: “Kullanıcıların başkalarına zarar vermeyi planladığını tespit ettiğimizde, konuşmalarını kullanım politikalarımız konusunda eğitimli küçük bir ekibin incelediği özel bir sürece yönlendiriyoruz. Bu ekip hesapları kapatma da dahil olmak üzere yetkilidir. Eğer insan incelemesi, ciddi fiziksel zarar tehdidi içeren bir durum olduğunu belirlerse, olayı kolluk kuvvetlerine iletebiliriz.” ancak söz konusu kısa ve muğlak açıklama pek çok soruyu cevapsız bıraktı. İnsan inceleme ekibinin dayandığı OpenAI’nin kullanım politikaları da net bir çerçeve sunmuyor. Şirket, “kendine veya başkalarına zarar verme” kuralını açıklarken, yasaklı faaliyetler arasında ChatGPT’nin “int*harı veya kendine zarar vermeyi teşvik etmek, silah geliştirmek veya kullanmak, başkalarına zarar vermek ya da mülkleri yok etmek, herhangi bir hizmetin veya sistemin güvenliğini ihlal eden izinsiz faaliyetlerde bulunmak” için kullanılmasını sıralıyor.

Bununla birlikte şirket, kullanıcıların kendine zarar verme niyeti taşıdığı vakaları polise bildirmediğini de ekledi: “ChatGPT etkileşimlerinin benzersiz biçimde özel doğası göz önüne alındığında, kişilerin mahremiyetini korumak için şu anda kendine zarar verme vakalarını kolluk kuvvetlerine yönlendirmiyoruz.”

ChatGPT’nin geçmişte kendini kandırma yöntemleriyle kolayca aldatılarak zehir üretme ya da int*har yöntemlerini anlatma gibi talimatlar verdiği biliniyor. Yeni kural ise kullanıcıların hangi tür konuşmalarının insan incelemesine takılacağı ve hangilerinin polise bildirileceği konusunda kafa karışıklığı yaratıyor. Konuyla ilgili OpenAI’ye netlik için ulaşıldığı bildirildi.

Bir yandan, YZ sohbetlerinin otomatik olarak polise bildirilip, kişinin evine sağlık kontrolü için polis gönderilmemesi olumlu bir gelişme olarak görülüyor çünkü müdahaleler çoğu zaman eğitim eksikliği nedeniyle krizdeki kişiye daha fazla zarar verebiliyor. Öte yandan, OpenAI’nin mahremiyete vurgu yapması garip karşılandı çünkü aynı yazıda kullanıcı konuşmalarının izlendiğini ve polise aktarılabileceğini kabul etti.

Durumun ironik tarafı, şirketin bu açıklamasının devam eden New York Times davasıyla çelişmesi oldu. Gazeteler ve diğer yayıncılar, telif hakları ihlali olup olmadığını belirlemek için ChatGPT kayıtlarına erişim talep ediyor. OpenAI ise kullanıcı mahremiyetini gerekçe göstererek bu talebi reddetti ve mahkemeye daha az kullanıcı konuşması teslim etmek için çaba göstermeye başladı.

Geçtiğimiz ay OpenAI CEO’su Sam Altman, bir podcast programında, ChatGPT’nin bir terapist ya da avukat yerine kullanılmasının aynı gizlilik korumasını sağlamadığını ve New York Times davası nedeniyle kullanıcı konuşmalarının mahkemelere teslim edilmek zorunda kalabileceğini itiraf etmişti.

Şirketin durumu özetle “iki arada bir derede” olarak tanımlanıyor. Bir yanda kullanıcıların krizlerde hayatını kaybetmesiyle oluşan kamuoyu baskısı, diğer yanda ise söz verilen gizlilik ilkeleriyle çelişen, ağır moderasyon yöntemleri… OpenAI, kullanıcılarını zararlı senaryolardan yeterince koruyamadığı için, kendi CEO’sunun mahremiyet taahhütleriyle ters düşen katı kurallara yönelmiş görünüyor.

Kaynak: https://futurism.com/openai-scanning-conversations-police