Sora, Yapay Zeka İkizinizi İçeren Videolarda Daha Fazla Kontrol Sağlıyor

Sora, kullanıcıların yapay zeka tarafından üretilmiş kopyaları üzerinde daha fazla söz sahibi olmasını sağlayacak yeni kontrolleri devreye aldı. Güncelleme, interneti tehdit eden öngörülebilir YZ içerik dalgası karşısında OpenAI’ın kullanıcı endişelerine önem verdiğini göstermek amacıyla duyuruldu.

Hafta sonu gelen geniş kapsamlı güncellemeler, Sora’nın istikrarını artırmayı ve akışındaki kargaşayı kontrol altına almayı hedefliyor. Sora, temel olarak “deepfake’ler için bir TikTok”, yani kullanıcıların kendilerini ya da başkalarını (ses dahil) yapay zeka tarafından üretilmiş şekilde 10 saniyelik videolara dönüştürebildiği bir platform. OpenAI söz konusu sanal görünümleri “cameo” olarak adlandırırken, eleştirmenler bunu yaklaşan bir yanlış bilgi felaketi olarak nitelendiriyor.

OpenAI çalışanı Thomas Dimson, kullanıcıların sanal ikizlerine tercihlerini ekleyebileceklerini belirtti. 

Sora ekibinin başında yer alan Bill Peebles, kullanıcıların artık kendi yapay zeka versiyonlarının uygulamada nasıl kullanılabileceğini kısıtlayabileceklerini söyledi. Örneğin, politik içeriklerde yer almalarını engelleyebilir, belirli kelimeleri söylemelerini önleyebilir ya da “hardaldan nefret eden” bir kullanıcı, sanal ikizinin hardal ile ilgili hiçbir sahnede görünmemesini sağlayabilir.

Koruma önlemleri olumlu karşılandı ancak ChatGPT veya Claude gibi YZ botlarının geçmişte patlayıcılar, siber suçlar veya biyolojik silahlarla ilgili ipuçları vermesi, birilerinin önlemleri aşmanın yolunu bulabileceğini gösteriyor. Kullanıcılar, Sora’nın daha önce sunduğu zayıf filigranı da kolayca atlatmıştı. Peebles, şirketin aynı zamanda filigranı geliştirmek için çalıştığını söyledi.

Peebles ayrıca, Sora’nın gelecekte “kısıtlamaları daha da sağlamlaştırmak için tırmanmaya devam edeceğini” ve “kullanıcıların kontrolü elinde tutması için yeni yollar ekleyeceğini” ifade etti.

Uygulamanın yayınlanmasının üzerinden yalnızca bir hafta geçmiş olmasına rağmen Sora, interneti YZ içerikleriyle dolduran bir araç haline geldi.

‍

‍

‍

Kaynak: https://www.theverge.com/news/792638/sora-provides-better-control-over-videos-featuring-your-ai-self