xAI, NSFW Sohbet Botu “Ani”yi Eğitmek için Çalışanlardan Yüz ve Ses Verisi Topladı

The Wall Street Journal’a göre Elon Musk’ın yapay zeka şirketi xAI, “Ani” adlı kadın sohbet botunu müşterilerle daha insan benzeri etkileşime yaklaştırmak amacıyla çalışanlarından biyometrik verilerini teslim etmelerini istedi. Ani, yaz aylarında X’in aylık 30 dolarlık SuperGrok abonelerine sunuldu; sarı çift atkuyruklu anime avatarı ve yetişkin içerik seçeneğiyle dikkat çekti.

Avatarın arkasında gerçek insanların emeği olduğuna işaret eden detaylar, Nisan ayında gerçekleştirilen bir toplantının kaydına dayanıyor. Kayıtta, şirketin hukuk danışmanı Lily Lim, çalışanlara sohbet botunun müşterilerle daha gerçekçi bir etkileşim kurabilmesi için biyometrik verilerin eğitim sürecine dahil edilmesi gerektiğini bildirdi. YZ eğitmeni olarak görevlendirilen çalışanlara, yüz ve ses verilerinin kullanımına ilişkin feragatnameler imzalatıldı. Bu belgeler, xAI’ye verileri kullanma, çoğaltma ve dağıtma hakkı tanıyordu. Proje, gizli “Project Skippy” kod adıyla yürütüldü ve toplanan verilerin yalnızca Ani için değil, Grok’un diğer YZ karakterleri için de kullanılacağı belirtildi.

Bazı çalışanlar, yüzlerinin ya da seslerinin başka şirketlere satılabileceği veya deepfake videolarda kullanılabileceği endişesini taşıdı. Avatarın cinsel yaklaşımı ve anime tarzı bir “waifu”yu andırması da tepki çekti ancak çalışanlara, veri sağlamanın xAI’nin hedeflerini ilerletmek için bir iş gerekliliği olduğu söylendi.

‍

‍

‍

‍

Kaynak: https://www.theverge.com/news/814168/xai-grok-ani-employee-biometric-data