Google Yapay Zekası Halüsinasyon Gördü: Avustralyalıların İnternete Girmek için Kimlik Göstermesi Gerekeceğini İddia Etti

Yapay zeka araçlarının hızla yaygınlaştığı ve geliştiği çağda, zaman zaman sistemlerin hatalı çalışması ya da beklenmeyen yazılım sorunları yaşanması şaşırtıcı olmaktan çıkmış durumda. Son dönemde yaşanan olayda da Google’ın AI Overview (Yapay Zeka Genel Bakış) özelliği, gerçek dışı ve yanıltıcı bir iddiayı ortaya atarak geniş çaplı bir panik yarattı. Sistem, Avustralyalıların internete erişebilmek için yakında devlet onaylı bir kimlik doğrulaması sunmaları gerekeceğini ve bu süreci AU10TIX adlı bir şirketin yöneteceğini ileri sürdü. Yapay zekanın bu yanıltıcı cevabı sosyal medyada hızla yayıldı ve kamuoyunda geniş yankı uyandırdı.

Google AI Overview’dan Kaynaklanan Viral Halüsinasyon, “Kimlik Zorunluluğu” Yalanıyla Toplumsal Panik Yarattı

Google’ın AI Overview sisteminin ortaya attığı sahte bilgi, Avustralya vatandaşlarının internete erişim için devlet tarafından verilen kimlikleri ibraz etmek zorunda kalacağı yönündeydi. Kimlik doğrulama işleminin ise AU10TIX adlı özel bir firma tarafından gerçekleştirileceği öne sürülüyordu. Yapay zeka üretimi yanıtın ekran görüntüsü alınarak internette paylaşılmasıyla, içerik hızla yayılmaya başladı. Toplumda korku, tepki ve kafa karışıklığına yol açan açıklama, dijital mecralarda büyük yankı uyandırdı.

Olayın ardından, güvenlik araştırmalarıyla tanınan vx-underground adlı siber güvenlik topluluğu hızlı bir şekilde müdahale ederek yanlış bilgiyi çürüttü. Grup, iddianın tamamen bir "YZ halüsinasyonu" olduğuna dikkat çekti ve hiçbir gerçek temele dayanmadığını açıkça ifade etti. Asıl ironik olan ise, yapay zekanın verdiği cevabın dayandırıldığı kaynakta ne kimlik doğrulaması gerekliliğine ne de AU10TIX şirketine dair herhangi bir bilgi yer alıyordu. Gösterilen kaynak, yalnızca Avustralya hükümetine ait genel bir dijital kimlik reformu sayfasıydı.

Halüsinatif YZ cevabı, beraberindeki kaynak bağlantısıyla birlikte geldiği için birçok kişi tarafından doğru kabul edildi. Görünürde resmi bir bağlam taşıyan ifade, doğruluk kontrolü yapılmadan hızla benimsendi. vx-underground tarafından sosyal medya platformu X üzerinde yapılan açıklamada, sadece yapay zekanın hatasına değil, aynı zamanda “başlıkları ya da içerikleri sorgulamadan kabul etme eğiliminde olan internet kültürüne” de sert eleştiriler yöneltildi. "İçinde bulunduğumuz çağda yapay zekanın nihai bilgi kaynağı olarak görülmesi son derece endişe verici; çünkü insanlar artık kaynak kontrolü yapmadan kendilerine sunulan bilgileri sorgusuz kabul ediyor." ifadeleriyle bu durum özetlendi.

Olay, dijital çağda yanlış bilginin ne denli hızlı yayılabileceğini ve özellikle yapay zeka araçlarının üretiminde ortaya çıkan halüsinasyonların ne kadar tehlikeli sonuçlara yol açabileceğini açıkça gözler önüne serdi. Panik yaratan açıklama, herhangi bir doğruluk taşımamasına rağmen, insanlarda var olan gizlilik ve dijital kimlik endişelerine denk düştüğü için hızla kabul gördü. Oysa bu tür sistemler tartışılırken, her zaman gerçek bilgilere dayanmak büyük önem taşıyor.

Yapay zeka kaynaklı cevaplar artık giderek daha yaygın hale gelirken, doğruluk kontrolü ve teyit sorumluluğu da kullanıcıya geçiyor. Google AI sisteminin yanılmış olması kadar, internetin hatalı bilgiyi körüklemesi ve olayın hızla kontrolden çıkması da dikkat çekici. Eğer yalnızca bir kişi bile ilgili kaynağı kontrol etmiş olsaydı, yaşanan tüm karışıklık ve panik engellenebilirdi.

‍

‍

‍

‍

‍

‍

Kaynak: https://wccftech.com/ai-hallucination-sparks-outrage-over-fake-id-verification-claim/