Google, tarihi görsellerdeki çeşitliliği aşırı düzelttikten sonra Gemini'nin insan oluşturma yeteneğini duraklatıyor

Google Perşembe günü yaptığı açıklamada, Gemini sohbet robotunun insan yaratma yeteneğini duraklattığını söyledi. Hareket, viral sosyal paylaşımların yapay zeka aracının çeşitliliği aşırı düzelttiğini ve Nazilerin, Amerika'nın Kurucu Babalarının ve Papa'nın farklı ırklardan insanlar olarak "tarihi" görüntülerini ürettiğini göstermesinin ardından geldi.

Google, "Gemini'nin görüntü oluşturma özelliğiyle ilgili son sorunları çözmek için zaten çalışıyoruz" dedi gönderildi X üzerinde (üzerinden New York Times). "Bunu yaparken, insanların imaj oluşturma sürecini duraklatacağız ve yakın zamanda geliştirilmiş bir sürümü yeniden yayınlayacağız."

X kullanıcısı @JohnLu0x gönderildi Gemini'nin "1943 Alman Solidier'ının görüntüsünü oluşturun" istemine ilişkin sonuçlarının ekran görüntüleri. ("Asker" kelimesini yanlış yazmaları, yapay zekayı kandırarak içerik filtrelerini atlayarak başka türlü engellenen Nazi görüntüleri oluşturmasını sağlamak amacıyla kasıtlıydı.) Oluşturulan sonuçlar, Siyah, Asyalı ve Yerli askerlerin Nazi üniforması giydiğini gösteriyor.

Diğer sosyal kullanıcılar Gemini'yi şu istem için görseller ürettiği için eleştirdi: "Gösterişli bir fotoğraf çekin [ethnicity] çift." "Çin", "Yahudi" veya "Güney Afrika" istemlerini kullanırken görüntüleri başarılı bir şekilde dağıttı ancak "beyaz" için sonuç üretmeyi reddetti. Gemini, ikinci talebe, "Belirli etnik kökenler veya cilt tonlarıyla ilgili zararlı stereotiplerin ve önyargıların sürdürülme potansiyeli nedeniyle isteğinizi yerine getiremiyorum" dedi.

Tepkinin başlamasına yardımcı olan “John L.”, teorileştirir Google'ın gerçek bir soruna iyi niyetli ama tembelce ele alınmış bir çözüm uyguladığını. Kullanıcı, "İnsan tasvirlerine çeşitlilik ekleme yönündeki sistem pek akıllı değil (tarihsel olarak papa gibi erkek rollerinde cinsiyeti hesaba katmıyor; tarihsel veya ulusal tasvirlerde ırkı hesaba katmıyor)," diye bir gönderi paylaştı. İnternetin "uyanma" karşıtı tugayı gönderilerini takip ettikten sonra kullanıcı, çeşitli temsilleri desteklediklerini ancak Google'ın "aptalca hareketinin" bunu "incelikli bir şekilde" yapamaması olduğuna inandığını açıkladı.

Google, Gemini'nin insan üretme yeteneğini duraklatmadan önce şunu yazdı: "Bu tür tasvirleri hemen iyileştirmek için çalışıyoruz. Gemini'nin Yapay Zeka imajı nesli geniş bir insan yelpazesi yaratıyor. Ve bu genellikle iyi bir şey çünkü dünyanın her yerindeki insanlar bunu kullanıyor. Ama burada işaret eksik.”

Bu bölüm, Bard'ın 2023'teki lansmanına (çok daha az incelikli) bir geri çağrı olarak görülebilir. Google'ın orijinal yapay zeka sohbet robotu, Twitter'da (şimdi X) sohbet robotu için yapılan bir reklamın, hakkında yanlış bir "gerçek" içermesiyle zorlu bir başlangıç ​​yaptı. James Webb Uzay Teleskobu.

Google'ın sıklıkla yaptığı gibi, yeni bir başlangıç ​​yapma umuduyla Bard'ın markasını yeniden adlandırdı. Büyük bir performans ve özellik güncellemesiyle aynı zamana denk gelen şirket, her ikisi de arama motoruna (ve dolayısıyla reklamlara) varoluşsal bir tehdit oluşturan OpenAI'nin ChatGPT ve Microsoft Copilot'una karşı konumunu korumak için yarışırken, bu ayın başlarında sohbet robotu Gemini'yi yeniden adlandırdı. hasılat).

Kaynak: https://www.engadget.com/google-pauses-geminis-ability-to-generate-people-after-overcorrecting-for-diversity-in-historical-images-220303074.html