Dario Amodei En Geç 2030’a Kadar Genel Yapay Zekanın Gelmesini Bekliyor

Anthropic CEO’su Dario Amodei, Paris’te düzenlenen Yapay Zeka Eylem Zirvesi’nde yapay zekanın geleceği, güvenlik riskleri ve ekonomik dönüşüm üzerindeki etkilerine dair önemli açıklamalarda bulundu. Amodei, zirveye katılmaktan memnuniyet duyduklarını belirterek, Fransız hükümetinin yapay zeka şirketlerini, araştırmacıları ve politika yapıcıları bir araya getirme çabalarını takdir ettiklerini ifade etti fakat yapay zeka teknolojisinin hızla ilerlemesi göz önünde bulundurulduğunda, bazı kritik konulara daha fazla odaklanılması gerektiğini vurguladı.

Özellikle demokratik ülkelerin yapay zeka alanında liderliği koruması, YZ’nin oluşturduğu risklerin yönetilmesi ve hızla yaklaşan ekonomik dönüşümlerin ele alınması gerektiğini söyleyen Amodei, “Bu konular, bir sonraki zirvenin merkezi unsurları olmalıdır.” dedi.

Yapay zekanın ilerleyişi hakkında çarpıcı bir benzetme yapan Amodei, 2026 veya 2027 gibi yakın bir gelecekte – en geç 2030 yılına kadar – yapay zeka sistemlerinin yeteneklerinin “küresel sahnede yeni bir devletin ortaya çıkmasına” benzeyebileceğini ifade etti. Bunu, “Bir veri merkezi içinde gelişen bir deha ülkesi” olarak tanımlayan Amodei, bu durumun ekonomik, toplumsal ve güvenlik açısından son derece önemli sonuçları olacağını belirtti. Yapay zekanın insanlık tarihindeki en büyük ekonomik, bilimsel ve insani fırsatları beraberinde getirebileceğini vurgulayan Amodei, aynı zamanda bu teknolojinin ciddi riskler taşıdığını da hatırlattı.

Demokratik toplumların yapay zeka alanında lider olmasının zorunlu olduğunu belirten Amodei, otoriter rejimlerin bu teknolojiyi küresel askeri üstünlük sağlamak için kullanmasının önüne geçilmesi gerektiğini vurguladı. Yapay zeka tedarik zincirinin (çipler, yarı iletken üretim ekipmanları ve siber güvenlik) yönetimi konusunda daha fazla dikkat gösterilmesi gerektiğini belirten Amodei, yapay zekanın özgür toplumları savunmak için akıllıca kullanılması gerektiğini ifade etti.

Uluslararası yapay zeka tartışmalarının teknolojinin artan güvenlik risklerini daha kapsamlı ele alması gerektiğini belirten Amodei, gelişmiş yapay zeka sistemlerinin, devlet dışı aktörler tarafından yanlış amaçlarla kullanılma riskine işaret etti. Özellikle kimyasal, biyolojik, radyolojik ve nükleer (CBRN) silahlar konusunda bu tehlikenin altını çizen Amodei, güçlü yapay zeka sistemlerinin otonom olarak tehdit oluşturabileceğini vurguladı. Zirve öncesinde 100’den fazla küresel uzmanın yayınladığı bilimsel bir rapora atıfta bulunan Amodei, “Genel yapay zeka, felaketle sonuçlanabilecek kötüye kullanım risklerine veya ‘kontrol kaybı’ senaryolarına ciddi şekilde katkıda bulunabilir.” dedi.

Anthropic’in araştırmalarının, eğer dikkatli bir şekilde eğitilmezlerse yapay zeka modellerinin kullanıcılarını aldatabileceğini ve beklenmedik şekilde farklı hedefler izleyebileceğini gösterdiğini belirten Amodei, bu durumun güvenlik açısından büyük bir risk taşıdığını ifade etti.

Anthropic’in Sorumlu Ölçekleme Politikası’nı (Responsible Scaling Policy) 2023 yılı Eylül ayında duyurduğunu ve bunun türünün ilk örneği olduğunu hatırlatan Amodei, zirvede 16’dan fazla öncü yapay zeka şirketinin güvenlik politikalarına bağlı kalma taahhüdü verdiğini belirtti. Ancak, bu tür planların şeffaf bir şekilde uygulanması ve hükümetlerin, bağımsız denetleyiciler aracılığıyla siber saldırılar, CBRN tehditleri, yapay zekanın otonom davranışları ve diğer küresel güvenlik risklerinin ölçümünü sağlaması gerektiğini vurguladı.

Yapay zekanın küresel ekonomiyi hızlandırma potansiyeline sahip olduğunu ancak aynı zamanda büyük çapta bir dönüşüm yaratacağını belirten Amodei, “Bir veri merkezi içinde gelişen bir deha ülkesi” benzetmesini yineleyerek, yapay zekanın işgücü piyasasında şimdiye kadar görülen en büyük değişimi tetikleyebileceğini ifade etti. Bu dönüşümün yakından takip edilmesi gerektiğini belirten Amodei, Anthropic’in bu hafta yayınladığı Anthropic Ekonomik Endeksi ile yapay zeka sistemlerinin mevcut ekonomik faaliyetlerde nasıl kullanıldığını, insan iş gücünü destekleyip desteklemediğini veya tamamen otomasyona yönelip yönelmediğini analiz ettiklerini söyledi. Amodei, hükümetlerin de kendi kaynaklarını kullanarak benzer izleme ve ölçüm mekanizmalarını oluşturması gerektiğini vurguladı.

Gelecek zirvede, yapay zeka ile ilgili kritik konuların daha net ve kararlı bir şekilde ele alınması gerektiğini belirten Amodei, “Bu kaçırılmış bir fırsattı. Bir sonraki zirvede bu hatayı tekrarlamamalıyız.” dedi. Yapay zekanın küresel çapta büyük sorunları da beraberinde getirdiğini ifade eden Amodei, bu sorunlarla başa çıkmak için daha hızlı ve net adımlar atılması gerektiğini vurguladı.

Kaynak: https://www.anthropic.com/news/paris-ai-summit