Yapay Zekada Donanım Engeli Kalkıyor: Artık Hesaplamalar “Işık Hızında” İşlenebiliyor

Bilim insanları, çiplerde elektrik yerine ışığı kullanarak yeni nesil optik bilgi işlem için yapay zeka (YZ) modellerinin eğitilme ve yürütülme şeklinden devrim yaratabilecek temel bir mimari geliştirdi.

Büyük dil modellerinin (LLM) ve derin öğrenme tabanlı sistemlerin kalbinde, “tensör” adı verilen ağırlıklı bir organizasyon yapısı bulunur. İlgili yapı, hangi çekmecelerin en çok kullanıldığını gösteren yapışkan notlara sahip bir dosya dolabı gibi işlev görür.

Bir yapay zeka modeli, görüntü tanıma veya metin dizesi tahmin etme gibi bir görevi yerine getirmek üzere eğitildiğinde, verileri bahsi geçen tensörlere ayırır. Modern yapay zeka sistemlerinde, modellerin tensör verilerini işleme hızı (bir nevi dosya dolaplarını tarama hızı), modelin ne kadar büyüyebileceğine dair kesin bir sınır oluşturan temel performans darboğazıdır.

Tipik ışık tabanlı bilgi işlemde modeller, lazer dizilerini defalarca ateşleyerek tensörleri ayrıştırır. Sistem, içeriğini belirlemek için paketteki barkodu tarayan bir makineye benzer şekilde çalışır; ancak buradaki fark, her konteynerin bir matematik problemine atıfta bulunmasıdır. Sayıları işlemek için gereken güç, modelin yetenekleriyle orantılı olarak artar.

Işık tabanlı bilgi işlem daha küçük ölçeklerde daha hızlı ve enerji açısından daha verimli olsa da, çoğu optik sistem paralel olarak çalıştırılamaz. Zincirleme bağlanarak işlem gücü miktarını ve kullanılabilirliğini katlanarak artıran grafik işlem birimlerinin (GPU) aksine, ışık tabanlı sistemler genellikle doğrusal çalışır. Geliştiriciler, ölçeklendirmede artan gücün sağladığı paralel işlem avantajları nedeniyle genellikle optik bilgi işlemi tercih etmez.

OpenAI, Anthropic, Google ve xAI gibi şirketler tarafından üretilen en güçlü modellerin, eğitilmek ve çalışmak için binlerce GPU'nun birlikte çalışmasına ihtiyaç duymasının nedeni işte sözü edilen ölçeklendirme darboğazıdır fakat Paralel Optik Matris-Matris Çarpımı (POMMM) adı verilen yeni mimari, optik bilgi işlemi geride tutan sorunu ortadan kaldırabilir. Önceki optik yöntemlerin aksine, geliştirilen sistem tek bir lazer atımı kullanarak birden fazla tensör işlemini aynı anda yürütür.

Sonuç, belirli bir YZ sisteminin tensör işlem hızını son teknoloji elektronik donanım yeteneklerinin ötesine taşıma potansiyeline sahip, aynı zamanda enerji ayak izini azaltan temel bir donanım tasarımıdır.

Yeni Nesil Optik Bilgi İşlem ve Yapay Zeka Donanımı

14 Kasım'da Nature Photonics dergisinde yayınlanan çalışma, deneysel bir optik bilgi işlem prototipinin sonuçlarını ve standart optik ve GPU işleme şemalarına karşı yapılan bir dizi karşılaştırmalı testi detaylandırıyor.

Bilim insanları, tensör paketlerini tek bir lazer atışıyla yakalamak ve ayrıştırmak için geleneksel optik donanım bileşenlerinin özel bir düzenlemesini yeni bir kodlama ve işleme yöntemiyle birlikte kullandı.

Dijital verileri ışık dalgalarının genliğine ve fazına kodlamayı başaran ekip, veriyi optik alanda fiziksel özelliklere dönüştürdü; böylece ışık dalgaları birleşerek matris veya tensör çarpımları gibi matematiksel işlemleri gerçekleştirdi.

Optik operasyonlar, ışık yayılırken pasif olarak hayata geçtiği için işlemek adına ek güç gerektirmiyor. Böylece işlem sırasında kontrol veya anahtarlama ihtiyacı ve ilgili fonksiyonları yerine getirmek için gereken enerji ortadan kalkıyor.

Aalto Üniversitesi Fotonik Grubu lideri ve çalışmanın başyazarı Zhipei Sun yaptığı açıklamada şunları söyledi:

“Bu yaklaşım neredeyse her optik platformda uygulanabilir. Gelecekte, bu hesaplama çerçevesini doğrudan fotonik çiplere entegre etmeyi ve ışık tabanlı işlemcilerin karmaşık yapay zeka görevlerini son derece düşük güç tüketimiyle gerçekleştirmesini sağlamayı planlıyoruz.”

Zhang, yaklaşımın üç ila beş yıl içinde büyük YZ platformlarına entegre edilebileceğini tahmin ediyor.

Yapay Genel Zeka Hızlandırıcısı

Temsilciler gelişmeyi, eğitim verilerinden bağımsız olarak birden fazla disiplinde genel olarak öğrenebilen ve insanlardan daha zeki varsayımsal bir gelecek sistemi olan Yapay Genel Zeka'ya (AGI) doğru bir adım olarak nitelendirdi.

Zhang açıklamada şunları ekledi:

“Bu, sayısız alanda karmaşık yapay zeka görevlerini önemli ölçüde hızlandıran yeni nesil optik bilgi işlem sistemleri yaratacaktır.”

Makalenin kendisi AGI'den spesifik olarak bahsetmese de, genel amaçlı bilgi işlemden birkaç kez söz ediyor.

Mevcut yapay zeka geliştirme tekniklerini ölçeklendirmenin AGI'ye ulaşmak için geçerli bir yol olduğu fikri, bilgisayar bilimleri topluluğunun belirli kesimleri arasında o kadar yaygın ki, üzerinde "ihtiyacınız olan tek şey ölçeklendirme" yazan tişörtler satın almanız bile mümkün.

Meta'nın görevi bırakmaya hazırlanan baş yapay zeka bilimcisi Yann LeCun gibi diğer bilim insanları ise duruma katılmıyor ve mevcut altın standart mimari olan LLM'lerin ne kadar ileri ve derinlemesine ölçeklenirse ölçeklensin AGI statüsüne asla ulaşamayacağını söylüyor.

Bilim insanları, POMMM ile alanın en büyük darboğazlarından birini kaldırmak için gereken donanım bulmacasının kritik bir parçasına sahip olabileceklerini ve geliştiricilerin mevcut paradigmanın temel sınırlarının çok ötesine ölçeklendirme yapmalarına olanak tanıyacaklarını belirtiyor.

‍

‍

‍

Kaynak: https://www.livescience.com/technology/computing/scientists-say-theyve-eliminated-a-major-ai-bottleneck-now-they-can-process-calculations-at-the-speed-of-light