Anthropic CEO’su: Yapay Zekanın Nasıl Çalıştığını Bilmiyoruz

Dünyanın önde gelen yapay zeka laboratuvarlarından birinin CEO’su, sessizce kabul edilen ama nadiren yüksek sesle söylenen bir gerçeği dile getirdi: Kimse yapay zekanın nasıl çalıştığını tam olarak bilmiyor.

Anthropic CEO’su Dario Amodei, kişisel web sitesinde yayımladığı bir yazıda, önümüzdeki on yıl içinde sağlam bir “YZ için MR” sistemi oluşturmayı planladığını açıkladı. Bu girişimin amacı yalnızca teknolojinin nasıl işlediğini anlamak değil, aynı zamanda Amodei’nin hâlâ gizemli doğası olduğunu söylediği yapay zekanın olası beklenmedik tehlikelerini önlemek.

“Bir üretici yapay zeka sistemi bir şey yaptığında, örneğin bir finansal belgeyi özetlediğinde, belirli ve kesin düzeyde neden o kelimeleri seçtiğini ya da genellikle doğru olmasına rağmen neden zaman zaman hata yaptığını bilmiyoruz.” diyen Anthropic CEO’su, sistemlerin karar alma süreçlerine dair belirsizliği açıkça dile getirdi.

Amodei sözlerine şöyle devam etti: “Yapay zeka dünyasının dışında kalan insanlar için, bu teknolojileri geliştiren bizlerin kendi yaratımlarımızın nasıl çalıştığını anlamadığını duymak şaşırtıcı olabilir — ve bu bilinmezlik karşısında endişelenen herkes haklıdır.”

Diğer yandan, sistemlerin nasıl çalıştığını tam olarak bilmemek çok da şaşırtıcı olmayabilir; zira son yıllarda hızla popülerleşen görüntü ve metin üretici sistemler, büyük veri yığınlarıyla beslenip bu verilerdeki kalıpları istatistiksel olarak tekrar eden prensipler üzerine kurulu. Temelinde, insan yaratıcılığına ait içerikleri yeniden düzenleyen sistemler bulunuyor, makine zekasının ilkeleri üzerine inşa edilmiş bir yapı değil.

Amodei, “Bu tür bir anlaşılamama durumu, teknoloji tarihindeki örneği neredeyse olmayan bir şey.” ifadelerini kullandı.

YZ'nin Anlaşılmazlığı, Anthropic’in Kuruluş Amacı Haline Geldi

Amodei’nin anlatımına göre, yapay zekanın nasıl çalıştığına dair bilgi eksikliği ve olası öngörülemeyen riskler, Anthropic’in kuruluşunun arkasındaki temel nedenlerden biri. 2020 yılının sonlarında, Dario Amodei ve kız kardeşi Daniela, OpenAI'den ayrıldı. Bu ayrılığın nedeni, şirketin CEO’su Sam Altman’ın öncülüğünde yürütülen güvenlik uygulamalarının yetersiz olduğu ve ticari kazanç uğruna bu endişelerin geri planda bırakıldığına dair duydukları kaygılardı.

Ertesi yıl, Amodei kardeşler ve beş eski OpenAI çalışanı, daha güvenli yapay zekalar geliştirmek amacıyla Anthropic’i kurdu. Kuruluş sürecinden bu yana ekip, yalnızca YZ sistemlerini yönlendirmekle değil, aynı zamanda teknolojinin temel yapı taşlarını anlamakla da ilgilenmeye başladı.

Amodei, son aylarda Anthropic’in çalışmalarının, yapay zekanın insanlık yararına yönlendirilmesiyle birlikte, araştırmacıların nihayet sistemlerin “yorumlanabilirliğini” çözebileceği, yani “içsel işleyişlerini” anlayabileceği “çekici bir olasılık” üzerine yoğunlaştığını ifade etti. Bu hedefin, modeller çok güçlü hâle gelmeden önce gerçekleşmesi gerektiğini vurguladı.

Kırmızı Takım Deneyi: Sorunlu YZ Nasıl Teşhis Edilir?

Anthropic kısa süre önce dikkat çekici bir deney gerçekleştirdi. “Yakın zamanda bir deney yaptık; bir 'kırmızı takım' modelin içine bilinçli olarak hizalanma sorunları yerleştirdi (örneğin, modelin bir görevde bir açığı kullanma eğilimi) ve çeşitli 'mavi takımlar'dan sorunun ne olduğunu tespit etmelerini istedik,” diyen Amodei, deneyin detaylarını paylaştı.

“Birden fazla mavi takım başarılı oldu; özellikle önemli olan şu ki, bazıları bu süreçte yorumlanabilirlik araçlarını etkin şekilde kullandı.”

Bu araçların ölçeklenebilirliği konusunda hâlâ yapılması gereken çok iş olduğunu belirten Amodei, yine de OpenAI’nin en büyük rakibi konumundaki Anthropic’in yalnızca daha gelişmiş sistemler üretmekle kalmayıp, aynı zamanda onların neden ve nasıl çalıştığını çözmeye de odaklandığını vurguladı.

"Güçlü YZ İnsanlığın Kaderini Belirleyecek"

Amodei, yazısını şu ifadelerle sonlandırdı: “Güçlü yapay zeka, insanlığın kaderini şekillendirecek ve kendi yaratımlarımızı gerçekten anlamayı, onlar ekonomimizi, hayatlarımızı ve geleceğimizi radikal biçimde dönüştürmeden önce hak ediyoruz.”

Kaynak: https://futurism.com/anthropic-ceo-admits-ai-ignorance