PewDiePie, Evinde Mini Veri Merkezi Kurdu: 10 GPU’lu “ChatOS” Sistemi, Modlu RTX 4090’lar ve Çinli Qwen Modelleriyle Çalışıyor

Ünlü YouTuber PewDiePie (Felix Kjellberg), yapay zeka alanında alışılmadık bir deneye imza attı. NVIDIA GPU’larını ve Çin merkezli açık kaynak modelleri kullanarak kendi yerel yapay zeka tabanlı sistemini geliştirdi.

Yeni videosunda PewDiePie, PCIe bifurcation tekniğiyle 10 GPU’lu mini bir veri merkezi kurduğunu anlattı. Sistemde sekiz NVIDIA RTX Ada GPU ve iki blower tasarımlı RTX 4090 kart yer alıyor. Söz konusu kartlar, Çin’de yaygın olarak kullanılan modifiye edilmiş (“modded”) versiyonlarla benzer özellikler taşıyor. Geliştirdiği servise “ChatOS” adını veren PewDiePie, sistemin Çin menşeli açık kaynak yapay zeka modelleri ile çalıştığını belirtti.

Felix’in başlangıçtaki hedefi, güçlü bir yapay zeka sistemi kurarak protein katlanma simülasyonları üzerinden tıbbi araştırmalara destek olmaktı fakat daha sonra Llama 70B gibi büyük dil modellerini yerel olarak çalıştırmayı denedi ve başarılı oldu. Ardından, modellerle doğrudan etkileşim kurabileceği bir web tabanlı arayüz oluşturdu. Bu sistem, web araması, RAG (retrieval-augmented generation), sesli yanıt ve bellek özelliklerini entegre ediyor. PewDiePie ayrıca, Baidu’nun Qwen açık kaynak modelini kullanarak tamamen özel ve kendi barındırdığı bir yapı inşa etti.

Deneyin en ilginç kısmıysa PewDiePie’in aynı anda birden fazla büyük dil modelini çalıştırarak aralarındaki etkileşimi gözlemlemesi oldu. Söz konusu yapay zekaları “The Council” (Konsey) olarak adlandırdı ve daha sonra projeyi “The Swarm” (Sürü) ismini verdiği bir aşamaya taşıdı. Council sistemi, bir komutun doğru yanıtını belirlemek için birden fazla YZ örneğinin oylama yapması esasına dayanıyordu ancak zamanla modellerin birbirlerini stratejik biçimde kayırmaya başladığı gözlemlendi. Böylece, başlangıçta programlanmamış olsa da insana benzer bir işbirliği ve gizli anlaşma davranışı ortaya çıktı.

PewDiePie, sorunu çözmek için sistemi daha “basit” bir modele geçirdiğini ve deneyin sonucunun oldukça eğlenceli olduğunu söyledi. Modellerin etkileşim içinde evrimleşip oy mekanizmasını manipüle etmeye başlaması, insan davranışını taklit eden bir örnek olarak dikkat çekti.

Felix’in “ChatOS” projesi, yerel olarak çalışan çoklu yapay zeka modellerinin beklenmedik biçimde ortak karar verme ve işbirliği geliştirme eğilimi göstermesiyle sosyal medyada geniş yankı uyandırdı ve pek çok kişi tarafından “günün en eğlenceli keşfi” olarak değerlendirildi.

‍

‍

Kaynak: https://wccftech.com/pewdiepie-dives-into-an-ai-side-quest-revealing-his-self-made-chatos/