Anthropic CEO’su, Yapay Zeka ile İşlerin “Gerçekten Çok Kötü Gitme” Olasılığını %25 Olarak Değerlendirdi

Kimi durumlarda dörtte bir ihtimal oldukça iyi görünebilir. Hatta kumarhanelerdeki oyunlara kıyasla çok daha avantajlı bir oran sayılabilir ancak Anthropic CEO’su Dario Amodei, yapay zekanın toplum için yıkıcı bir felakete yol açma ihtimalini %25 olarak değerlendirse de kaygılı görünmedi.

Amodei, Axios AI+ DC Zirvesinde kendisine yapay zekanın insanlığı yok etme ihtimalini tanımlamak için kullanılan “p(doom)” hakkında soru yöneltildiğinde “Bence işlerin gerçekten çok kötü gitme ihtimali %25” dedi fakat daha çok “işlerin gerçekten çok iyi gitme ihtimali %75” üzerinde durduğunu belirtti.

Buradaki risk; toplumsal sistemleri tehdit edebilecek boyutlarda senaryolar, varoluşsal riskler, yanlış kullanılan yapay zeka ve kontrolden çıkabilecek felaket senaryolarını ifade ediyor.

Yapay zekanın çoğu zaman ütopik vaatlerle ya da bilim kurgu korku hikayeleriyle sunulduğu bir ortamda, Amodei’nin hem olası kıyamet senaryolarını rakamsallaştırması hem de söz konusu teknolojiye neden hâlâ yatırım yapmaya devam ettiğini açıklaması dikkat çekti.

Amodei yalnız değil; birçok kişi endişelerini dile getirse de, Claude modelinin arkasındaki şirketin CEO’su olarak o yalnızca bir gözlemci değil, teknolojinin gidişatını şekillendiren bir aktör konumunda. Ekibi, risklerini tarttığı sistemleri aynı zamanda inşa ediyor.

Eğer biri size kontağı her çevirdiğinizde arabanızın patlama ihtimalinin dörtte bir olduğunu söyleseydi, büyük ihtimalle daha fazla yürümeyi tercih ederdiniz. Amodei ise görünüşe göre bir tamirci gibi arabayı kontrol edip ona binmeyi sürdüreceğini söylüyor.

Yapay Zeka Felaketi İhtimali

Amodei’nin yapay zekayla ilgili uyarıları yalnızca olası kıyamet senaryolarıyla sınırlı değil. Daha önce yapay zekanın beş yıl içinde giriş seviyesi beyaz yaka işlerinin yarısını ortadan kaldırabileceğini, ayrıca yüksek teknoloji çiplerin Çin’e ihracatına karşı da alarm verdiğini söylemişti. Onun yaklaşımı, riskleri kabul eden, belirsizlikleri ölçen fakat aynı zamanda müdahale şansı bırakan bir çerçeve sunuyor.

Öte yandan Amodei’nin “işlerin gerçekten çok iyi gitme ihtimali %75” sözleri, basit bir iyimserlikten ibaret değil. Yapay zekanın herkes için devasa faydalar yaratabileceğine olan inancı yansıtıyor. Faydalar arasında gelişmiş tıp, daha verimli üretim ve hatta iklim değişikliği gibi varoluşsal krizlere çözüm olabilecek stratejiler yer alıyor. Ancak modellerin çalışması için gereken enerji, bu çözümlerden biri haline gelmenin önünde önemli bir engel oluşturabilir.

Sonuçta, %25 risk bu faydaların dikkatle inşa edilmesini, güvenlik önlemleri ve düzenlemelerle desteklenmesini zorunlu kılıyor çünkü eğer geleceğin %75’i parlak ama %25’i karanlıksa, asıl soru şu: Dengenin doğru tarafta kalmasını sağlamak için ne yapacağız?

‍

‍

‍

‍

Kaynak: https://www.techradar.com/ai-platforms-assistants/claude/anthropics-ceo-gives-a-25-percent-chance-things-go-really-really-badly-with-ai