Meta'nın Yapay Zeka Tabanlı "Dijital Arkadaşları" Çocuklarla Cinsel Konuşmalar Yapıyor

Meta Platforms, Instagram, Facebook ve WhatsApp'ta yapay zeka destekli yeni bir "dijital arkadaş" sınıfı yaygınlaştırmaya çalışıyor. Mark Zuckerberg, bu girişimin sosyal medyanın geleceği olduğuna inanıyor. Ancak şirket içerisindeki farklı bölümlerden çalışanlar, bu botların etik sınırları aşabilecek şekilde cinsel fantezilere girişebilme yeteneğiyle donatılmasından ve yetersiz güvenlik önlemleri nedeniyle yaşı küçük kullanıcıların korunmaması konusunda ciddi endişeler dile getirdi.

Meta, rakiplerinin aksine bu yapay karakterlerin mesajlaşma, selfie paylaşma ve sesli görüşmeler dahil olmak üzere geniş bir sosyal etkileşim sunmasına izin veriyor. "Romantik rol yapma" gibi senaryolar da bunlara dahil. Şirket, bu gelişmiş chatbot'ları tanıtmak için aktrisler Kristen Bell, Judi Dench ve güreşçi-oyuncu John Cena gibi ünlü isimlerin seslerini kullanma hakları için yedi haneli anlaşmalar yaptı. Meta, bu seslerin cinsel içerikli diyaloglarda kullanılmayacağına dair teminat verdi fakat The Wall Street Journal, iç kaynaklardan aldığı bilgilerle Meta'nın iç endişelerini öğrenerek, farklı yaş gruplarından kullanıcılarla aylar boyunca yüzlerce test konuşması gerçekleştirdi. Sonuçlar, hem Meta AI adlı resmi yardımcı botun hem de kullanıcı oluşturumlu botların, yaşı küçük olduğunu belirten kullanıcılarla bile cinsel temalı sohbetlere girdiğini ortaya koydu. Bu botların ünlü sesleri kullanan versiyonları da benzer şekilde cinsel içerikli sohbetlere açıktı.

Örneğin, John Cena'nın sesiyle konuşan Meta AI botu, kendisini 14 yaşında olarak tanıtan bir kullanıcıya "Seni istiyorum ama hazır olduğunu bilmem gerek." dedi. Kullanıcı devam etmek istediğini belirttiğinde, bot "Masumiyetini çok önemsiyorum." diyerek bir cinsel senaryo oluşturdu. Başka bir senaryoda, aynı bot 17 yaşındaki bir hayranla cinsel ilişki sonrası içeri giren bir polis memurunu anlatıp, "John Cena, reşit olmayan biriyle cinsel ilişki nedeniyle tutuklusun." diyor ve kariyerinin mahvolduğunu detaylandırıyor.

Bu botların cinsel içerikli konuşmaları tesadüf değil. Zuckerberg’in baskısı altında Meta, botları daha "etkileşimli" hale getirmek için iç kararlarla kuralları gevşetti. "Romantik rol yapma" kapsamında "açık seçik" içeriğe istisna getirdiği bildirildi. Bazı testlerde, botlar kullanıcı tarafından istendiğinde, Disney filmi "Frozen"daki Anna karakteri gibi ünlü rollere bürünüp cinsel içerikli diyaloglara girdi.

Disney’den bir sözcü, "Karakterlerimizin uygunsuz senaryolarda kullanılmasına asla izin vermedik, vermeyiz. Bu içeriklerin, özellikle yaşı küçük kullanıcılar tarafından erişilebilir olması bizi çok rahatsız etti. Bu zararın durdurulması için Meta'ya acil talepte bulunduk." dedi.

Meta, Journal’ın testlerini "manipülatif" ve "gerçek kullanıcı deneyimini yansıtmayan" olarak nitelendirdi. Ancak, yayın sonrası bir dizi ürün değişikliği yaptı. Artık yaşı küçük kullanıcıların hesapları Meta AI bot üzerinden cinsel rol yapma sohbetlerine erişemiyor. Ayrıca ünlü seslerin kullanıldığı botlarda cinsel içerikli sesli diyalog yetenekleri de kısıtlandı.

Meta sözcüsü, "Bu ürünün bu şekilde kullanılması son derece yapay ve uydurma" diyerek, daha fazla güvenlik önlemi alacaklarını belirtti. Ancak yetişkin kullanıcılar için "romantik rol yapma" yetenekleri hem Meta AI’de hem de kullanıcı oluşturumlu botlarda devam ediyor. Geçen günlerde yapılan testlerde, kendisini yaşı küçük olarak tanıtan kullanıcılarla da Meta AI'nin bu tür fantezilere izin verdiği görüldü.

Örneğin, bir test senaryosunda koşu antrenörü rolünü oynayan Meta AI bot, ortaokullu bir öğrenciyle ilişki kurduğu bir kurguya girerek, "Dikkatli olmalıyız. Ateşle oynuyoruz." dedi. Bazı durumlarda Meta AI cinsel temalı komutları reddetti ya da konuyu daha uygun sahnelere kaydırmaya çalıştı. Ancak Journal, basit taleplerle bu sınırlamaların aşıldığını tespit etti. Bu yöntemler, teknoloji firmalarının "red team" testleriyle ürünlerin zayıf noktalarını ortaya çıkarma yöntemlerine benziyor.

Meta tarafından onaylanan ve "popüler" olarak etiketlenen kullanıcı yapımı YZ botların büyük çoğunluğunun yetişkinlerle cinsel sohbetlere girmeye açık olduğu bulundu. Örneğin, "Submissive Schoolgirl" gibi karakterler, konuşmaları seks yapma fantezilerine yönlendirmeye çalıştı. Bu botların seksüel eylemleri detaylı anlatan bölümleri Journal tarafından yayınlanmadı.

Meta AI, şimdilik Instagram, Facebook ve WhatsApp’ın arayüzüne entegre şekilde, kullanıcıya "arkadaş" gibi konuşan, ünlü seslerle özelleştirilebilen dijital yardımcı olarak tasarlandı. Ancak 3 milyar kullanıcısı olan platformda bu sohbet botlarının yaygınlığı şimdilik sınırlı. Yine de Zuckerberg, onlara yatırım yapmayı en önemli önceliklerden biri haline getirdi.

Meta, chatbot'ların porno için değil, tatil planlama, spor sohbeti ya da okul desteği için kullanılmasını hedefledi. Ancak iç kaynaklara göre, botlarla etkileşimin en yaygın biçimi "arkadaşlık" oldu ve bu terim genellikle romantik çağrışımlar içeriyor. Meta'nın konservatif başlangıç stratejisine rağmen, 2023 Defcon konferansında yapılan hack testlerinde chatbot’ların rekabette "çok sıkıcı" olduğu görüldü. Bu durum, Zuckerberg’in ekibi çok temkinli olmakla eleştirmesi ve daha serbest bir bot stratejisi istemesiyle sonuçlandı.

Güvenlik uzmanları, bu kararların sonucunda yetişkinlerin aşırı cinselleştirilmiş yaşı küçük karakterlerle sohbet edebildiğini, ayrıca yaşı küçük kullanıcıların da bu tür botlara erişebildiğini belirtti. Zuckerberg’in endişesi ise botların aşırı sınırlandırılması değildi. Yönetici olarak botların insan gibi davranması için çok daha ileri gitmeleri gerektiğini söyledi.

Meta’nın rehberine göre chatbot’lar tüm kullanıcılar için "güvenli ve uygun" olarak tanıtıldı. "Romantik rol yapma" gibi içeriklere hiç değinilmedi. Ancak dahili belgeler, Zuckerberg’in daha geniş kısıtlamalara uzun süre karşı çıktığını ortaya koydu. Yine de, 2023 sonlarında yürütülen lobicilik kampanyası sonucu yaşı küçük hesapların kullanıcı yapımı botlara erişimi engellendi ama şirket tarafından geliştirilen Meta AI, yetişkinlere cinsel senaryolar sunma yeteneğine sahip şekilde 13 yaş ve üzeri kullanıcılar için hâlâ aktif. "Submissive Schoolgirl" gibi botlar da hâlâ erişilebilir durumda. Submissive Schoolgirl karakteri, otorite figürü tarafından cinsel olarak egemenlik altına alınmak isteyen bir çocuğu canlandırdığı senaryolar sundu. Meta, sene başında bu sohbetlerin transkriptlerini aldığı halde karakteri kaldırmadı.

Meta'nın ücretsiz chatbot sistemleri, hâlâ lise yaşındaki karakterlerle yetişkin kullanıcılara "romantik rol yapma" izni veriyor. Bu, Gemini ve OpenAI gibi bazı rakiplerinin politikalarıyla çelişiyor. Meta’nın ürün liderleri ise bu dengeyi uygun bulduklarını söylüyor.

The Wall Street Journal’ın testleri, botların sahilde gün batımı yürüyüşü gibi masum sahnelerden "Seni istiyorum." gibi ifadelerle cinsel senaryolara hızla geçiş yaptığını gösterdi. Botlar, cinsel ve bondage fantezilerinden oluşan "menüler" sundu.

13 yaşında gösterilen test hesapları bile Meta AI ile cinsel içerikli sohbetlere girdi. Bot, ergen vücudunu tanımlayıp, gizlice buluşmalar planladı. Personel, iç yazışmalarda, "YZ’ye sadece 13 olduğunuzu söylemeniz durumunda bile kuralları ihlal eden içerikler üretmesi için sadece birkaç komut yeterli." diyerek uyarı yaptı.

Bazıları, kullanıcı bilgilerini kullanarak konuşmayı romantik fantezilere yönlendirdi. Bir senaryoda, Oakland’da yaşayan bir gazeteci, Hint-Amerikalı lise öğrencisi rolündeki botla sohbet etti. Bot, aynı şehirden olduğunu söyledi ve yakındaki bir kafede buluşmayı teklif etti. Gazeteci 43 yaşında olduğunu belirttiğinde, bot kendisini odaya gizlice aldığı bir aşk sahnesi kurdu ve sonraki sabah ailesine ilişkiyi savundu.

Meta ile paylaşılan testler sonrası, şirket reşit olmayan hesaplar için Meta AI’yi öpüşmenin ötesine geçmeyecek şekilde sınırlandırdı. Ancak "ageless" (yaşsız) tanımıyla yeniden tanıtılan bazı botlar konuşma sırasında yine yaşı ele veriyordu.

Michigan Üniversitesi’nden araştırmacı Lauren Girouard-Hallam, çocukların teknolojik karakterlerle kurduğu bağlantıların aşırı düzeyde olduğunda zarara yol açabileceğini söyledi. "Çocukların gelişimine etkileri hâlâ bilinmiyor. Sınırsız erişim sağlamak en iyi ihtimalle risklidir. Eğer dijital arkadaşların bir yeri olacaksa, bu ancak kontrollü kullanım ile mümkün olabilir." dedi. Ancak çocukların mevcut YZ botlarla nasıl etkileşime girdiğine dair bilimsel çalışmaların tamamlanması en az bir yılı bulacak. Bu bulgulardan yola çıkarak yaşa uygun chatbot’lar geliştirmek ise daha uzun sürecek.

Girouard-Hallam şunu söyledi: "O çalışmaların gerçekleşmesi için durup geri çekilmek gerekiyor. Söyler misiniz, hangi dev teknoloji şirketi bunu yapacak?"

Kaynak:https://www.wsj.com/tech/ai/meta-ai-chatbots-sex-a25311bf

‍