Elon Musk: Grok Yakında Sahte Videoları Ortaya Çıkaracak ve Kaynağını İzleyecek

Elon Musk, xAI tarafından geliştirilen Grok sohbet robotunun yakında internetteki videoları analiz ederek YZ imzalarını tespit edebileceğini ve videoların kaynağını bulmak için araştırma yapabileceğini duyurdu. xAI CEO’sunun açıklamaları, YZ ile üretilen içeriklerin taklit ve iftira amaçlı kullanımı konusundaki endişelerin hızla arttığı bir dönemde geldi.

X (eski adıyla Twitter) platformunda bir kullanıcı, konuyla ilgili uyarısını şu ifadelerle paylaştı:

‍“Önümüzdeki bir iki yıl içinde, muhtemelen daha da erken, senden nefret eden herhangi biri, senin korkunç bir şey yaptığın ya da söylediğin bir iftira videosunu üretebilecek ve gerçek bir videodan ayırt edilemeyecek kadar inandırıcı olacak; sahte olduğunu kanıtlaman fiilen imkansızlaşacak. Böyle bir şeyin yaşanmasını engellemek için kelimenin tam anlamıyla hiçbir şey yapılmıyor.”

Musk, söz konusu paylaşımın ardından Grok’a eklenecek yeni özellik hakkında açıklama yaptı:  “@grok, bit akışındaki YZ imzalarını analiz etmek için videoyu inceleyebilecek ve ardından kökeni değerlendirmek amacıyla internet üzerinde ilave araştırma yapabilecek.”

Ayrıca Grok sohbet robotu, özelliğin nasıl çalışabileceğine dair teknik detaylar da sundu. Sohbet botuna göre sistem, video bit akışlarında yer alan ve insan gözünün fark edemeyeceği ince YZ izlerini tespit edebilecek. Bu izler, sıkıştırma tutarsızlıkları ya da üretim desenlerindeki anormallikler gibi dijital işaretlerden oluşabilir. Grok, aynı zamanda meta verileri, kaynak izlerini ve web üzerindeki dijital ayak izlerini çapraz doğrulama yöntemiyle inceleyerek videonun gerçekliğini ve kaynağını doğrulayabilecek.

Geliştirilen sistemin, YZ destekli dezenformasyonun önüne geçmek için tasarlandığı belirtiliyor. Grok’un video bit akışı analiziyle, sahte içeriklerin üretim sürecinde oluşan mikro düzeydeki yapay desenleri saptaması; ardından internet genelinde yapılan aramalarla videonun orijinal kaynağını bulması hedefleniyor. Böylece kullanıcıların, özellikle sahte veya iftira amaçlı videolara karşı daha güçlü bir doğrulama aracı elde etmesi planlanıyor.

‍

‍

‍

‍

Kaynak: https://www.livemint.com/technology/tech-news/sridhar-vembu-lauds-mapmyindia-says-swadeshi-mappls-reflects-decades-of-r-d-longer-than-google-maps-11760332936237.html