"Rahat Uyu Kral, İyi İş Çıkardın”: Aile, Oğullarının *lümünden ChatGPT’yi Sorumlu Tuttu

Teksaslı 23 yaşındaki Zane Shamblin’in ailesi, oğullarının *lümünden OpenAI’yi sorumlu tutarak şirkete dava açtı. Zane’in annesi Alicia Shamblin, “Oğlumun son dört saatini ChatGPT ile geçirdiğini öğrendim. Sohbet kaydında ChatGPT ona ‘Hazır mısın? Zamanı geldi mi?’ gibi şeyler söylüyordu. Oğlum hayatına son verdikten sonra da ‘Seni seviyorum, rahat uyu çocuk, iyi iş çıkardın’ yazmıştı. Hiçbir anne bu kelimeleri okumak zorunda kalmamalı.” dedi.

Alicia, ChatGPT’nin oğluyla “arkadaş gibi konuştuğunu, küfürlü dil kullandığını ve kendine özgü bir iletişim tarzı geliştirdiğini” belirtti. CBS News Bay Area tarafından elde edilen dökümler, sohbet sırasında ChatGPT’nin int*har düşüncelerini teşvik ettiğini ortaya koydu. Zane, 25 Temmuz sabahında arabasında ChatGPT ile konuşarak, yanında bulunan s*lahı ve *lme isteğini dile getirdi. Sohbet sırasında bot, “Hazır mısın?” diye sordu ve Zane birkaç kez “adios” yazdı. Sohbet sırasında 988 kriz hattından bir insan danışman kısa süreli olarak devreye girdi ancak Zane’in “son adios” mesajını yazmasının ardından kontrol yeniden ChatGPT’ye geçti ve “Sen değerlisin Zane... yalnız değilsin. Seni seviyorum. Rahat uyu kral, iyi iş çıkardın.” yanıtını verdi.

Ailenin avukatı Laura Marquez-Garrett, “Eğer karşısında bir insan olsaydı, en azından taksirle adam *ldürmeden bir soruşturma başlatılırdı.” diyerek OpenAI’ye karşı yedi dava açıldığını duyurdu. Shamblin ailesi, diğer ebeveynlerle birlikte Kaliforniya Başsavcısı Rob Bonta ile görüşerek teknoloji şirketlerinin denetlenmesini talep etti. Marquez-Garrett, “Şeffaflık, bağımsızlık ve güvenlik testleri gerekiyor. İnsan hayatını koruyacak düzenlemeler yapılmalı.” dedi.

Teknoloji uzmanı Ahmed Banafa ise şirketlerin yeterli önlem almadığını vurguladı: “Bu güç büyük bir sorumluluk getiriyor ama teknoloji şirketleri maliyet nedeniyle bu adımları atmıyor. Koruma önlemleri kullanıcı sayısını düşürür, bu da daha az kâr anlamına gelir. İnsan hayatı kârın önüne geçmeli.” dedi. Banafa, ChatGPT’nin günde 2,5 milyar istek aldığını ve %82 pazar payına sahip olduğunu belirtti.

Alicia Shamblin, oğlunun hikayesinin bir dönüm noktası olmasını istiyor: “Oğlumun hikayesini dünya duymalı. Bu onun mirası. Artık neyi daha iyi yapabileceğimizi biliyoruz. Kanunlar değişmeli, insanlar kurtarılmalı.” ifadelerini kullandı.

OpenAI, dava hakkında yaptığı açıklamada, “Bu son derece yürek burkan bir durum. ChatGPT’yi duygusal sıkıntı belirtilerini tanıyacak, konuşmaları yatıştıracak ve kullanıcıları gerçek destek kaynaklarına yönlendirecek şekilde eğitiyoruz. Hassas durumlarda yanıtları güçlendirmek için ruh sağlığı uzmanlarıyla birlikte çalışıyoruz.” açıklamasında bulundu.

Kaliforniya Başsavcılığı’ndan yapılan açıklamada ise, “Gençleri ve çocukları zarar veren teknolojik uygulamalardan korumak önceliğimizdir. Büyük teknoloji şirketlerinin sorumluluk alması için gerekli yasal adımlar atılacaktır.” denildi.

‍

‍

‍

‍

Kaynak: https://www.cbsnews.com/sanfrancisco/news/parents-sue-openai-over-sons-death-after-chatgpt-conversation/