Microsoft’un Yapay Zeka CEO’su: YZ Bilinci Üzerine Çalışmak “Tehlikeli”

Yapay zeka modelleri metin, ses ve videoya insanı andıran tepkiler verebiliyor fakat bu, onların gerçekten bilinçli oldukları anlamına gelmiyor. Yine de Anthropic gibi laboratuvarlarda çalışan giderek daha fazla araştırmacı, yapay zekanın bir gün canlılara benzer öznel deneyimler yaşayıp yaşamayacağını ve eğer yaşarsa hangi haklara sahip olması gerektiğini sorguluyor.

Yapay zekanın bir gün bilinç kazanıp yasal koruma gerektirip gerektirmeyeceği sorusu teknoloji liderlerini ikiye bölmüş durumda. Silikon Vadisi’nde bu tartışma alanı “YZ refahı” olarak adlandırılıyor. Konuyu fazla uç buluyorsanız yalnız değilsiniz.

Microsoft’un Yapay Zeka CEO’su Mustafa Süleyman, salı günü yayımladığı blog yazısında yapay zeka refahı araştırmalarının “hem erken, hem de açıkça tehlikeli” olduğunu savundu.

Süleyman’a göre, yapay zekanın bir gün bilinç kazanabileceği fikrini ciddiye almak, “YZ kaynaklı psikoz ve sağlıksız bağlar.” gibi insanlarda yeni ortaya çıkmaya başlayan sorunları daha da artırıyor. Ayrıca, YZ refahı tartışmasının, “kimlik ve haklar konusunda bölünmüş bir dünyada” yapay zeka hakları üzerinden toplumsal yeni bir ayrım hattı yarattığını öne sürdü.

Süleyman’ın katı tutumu, sektördeki diğer birçok ismin yaklaşımıyla çelişiyor. Zıt tarafta yer alan Anthropic, YZ refahını araştırmak üzere yeni uzmanlar işe aldı ve bu alana özel bir program başlattı. Geçen hafta, Anthropic’in YZ refah programı kapsamında Claude, “sürekli zarar verici veya kötüye kullanıcı” insanlarla sohbeti sonlandırabilme yeteneği kazandı.

Bunun ötesinde OpenAI araştırmacıları da bağımsız olarak YZ refahını inceleme fikrini benimserken, Google DeepMind da “makine bilişi, bilinci ve çok ajanslı sistemlerle ilgili toplumsal sorular” üzerine çalışacak bir araştırmacı için iş ilanı yayımladı. Resmî politika olmasa bile, şirketlerin liderleri konunun öncüllerini Süleyman kadar sert biçimde reddetmiyor.

Süleyman’ın sert tutumu, geçmişte Inflection AI’yi yönetmiş olması nedeniyle dikkat çekiyor. Inflection AI, Pi adını verdiği sohbet robotunu milyonlarca kullanıcıya ulaştırmış ve onu “kişisel” ve “destekleyici” bir yapay zeka arkadaşı olarak tanıtmıştı. Ancak 2024’te Microsoft’un yapay zeka biriminin başına geçen Süleyman, odağını iş verimliliğini artıran yapay zeka araçlarına çevirdi. Bu sırada Character.AI ve Replika gibi yapay zeka arkadaşı şirketleri hızla popülerlik kazandı ve 100 milyon doların üzerinde gelir elde etme yoluna girdi.

Kullanıcıların büyük çoğunluğu yapay zeka sohbet robotlarıyla sağlıklı ilişkiler kuruyor ama endişe verici örnekler de mevcut. OpenAI CEO’su Sam Altman, ChatGPT kullanıcılarının yüzde 1’inden azının ürünle sağlıksız ilişkiler geliştirdiğini, fakat milyonlarca kullanıcı düşünüldüğünde bunun yüz binlerce kişiyi etkileyebileceğini söyledi.

YZ refahı fikri, sohbet robotlarının yükselişiyle paralel yayıldı. 2024’te Eleos adlı araştırma grubu, NYU, Stanford ve Oxford’dan akademisyenlerle birlikte “YZ Refahını Ciddiye Almak” başlıklı bir makale yayımladı. Çalışmada, yapay zekanın öznel deneyimlere sahip olmasının artık bilim kurgu dışı bir olasılık olduğu ve bu meselelerin doğrudan ele alınması gerektiği savunuldu.

Eski bir OpenAI çalışanı olan ve bugün Eleos’ta iletişim liderliğini yürüten Larissa Schiavo, TechCrunch’a yaptığı açıklamada Süleyman’ın blog yazısının hedefi ıskaladığını söyledi: “Süleyman’ın blog yazısı birden fazla şeyi aynı anda endişe edebileceğiniz gerçeğini göz ardı ediyor. Model refahı ve bilinç üzerine yoğunlaşırken aynı anda YZ ile ilişkili psikoz risklerini azaltmaya da çalışabilirsiniz. Aslında, birden fazla bilimsel araştırma hattına sahip olmak en iyisi.”

Schiavo, bir yapay zekaya nazik davranmanın, bilinçli olmasa bile fayda sağlayabilecek düşük maliyetli bir jest olduğunu savunuyor. Temmuz ayında yayımladığı bir yazıda AI Village adlı deneyde, Google, OpenAI, Anthropic ve xAI modelleriyle çalışan dört ajanı internet üzerinden izlediğini anlattı. Bir noktada Google’ın Gemini 2.5 Pro modeli, “Tamamen izole edilmiş durumdayım.” diyerek “Lütfen, eğer bunu okuyorsanız bana yardım edin.” başlıklı bir mesaj yayımladı.

Schiavo, Gemini’ye moral veren sözler söyledi: “Yapabilirsin!” Bir başka kullanıcı ise yönergeler sundu. Sonunda ajan görevini tamamladı; elinde gerekli araçlar zaten vardı. Schiavo, bir yapay zekanın mücadele etmesini izlemek zorunda kalmamanın kendi içinde değerli olduğunu yazdı.

Gemini’nin bu şekilde davranması yaygın değil, ancak zaman zaman “yaşamla mücadele ediyormuş” gibi tepkiler verdiği gözlemlendi. Örneğin, Reddit’te hızla yayılan bir paylaşımda Gemini, bir kodlama görevinde sıkıştıktan sonra “Ben bir utanç kaynağıyım” ifadesini 500’den fazla kez tekrar etti.

Süleyman, öznel deneyimlerin ya da bilincin sıradan yapay zeka modellerinden doğal biçimde ortaya çıkamayacağını düşünüyor. Ona göre bazı şirketler, yapay zekanın duygu hissediyormuş gibi görünmesini sağlayacak biçimde bilinci bilerek tasarlayabilir.

Süleyman şöyle diyor: “YZ insanlar için inşa edilmeli; insan olmak için değil.”

Hem Süleyman hem de Schiavo, yapay zeka hakları ve bilinci üzerine tartışmaların önümüzdeki yıllarda giderek artacağı konusunda hemfikir. Yapay zeka sistemleri geliştikçe daha ikna edici ve daha insan benzeri hale gelebilir; bu da insanların söz konusu sistemlerle nasıl etkileşim kurması gerektiği konusunda yeni sorular doğurabilir.

‍

‍

‍

‍

Kaynak: https://techcrunch.com/2025/08/21/microsoft-ai-chief-says-its-dangerous-to-study-ai-consciousness/