NVIDIA ve AMD, Sonraki Nesil YZ Hızlandırıcıları için HBM4 Belleğini Özelleştiriyor

NVIDIA ve AMD’nin gelecek nesil hızlandırıcıları, HBM4 bellek teknolojisini kullanacak ancak SemiAnalysis tarafından doğrulanan dikkat çekici gelişmeye göre, bu hızlandırıcılar ilk kez özelleştirilmiş bir HBM bellek tasarımına sahip olacak. Bir HBM yığını, TSV’lerle bağlanan ve 12 kata kadar istiflenmiş DRAM yongalarından oluşur. Bu yapıda, özel ihtiyaçlara göre tasarlanmış özelleştirilmiş mantık veya hızlandırıcı devreleri içeren opsiyonel bir temel yonga eklenebilir. Görünüşe göre NVIDIA ve AMD, performansı artırmak amacıyla yalnızca bu seçeneği araştırmakla kalmıyor, aynı zamanda özel bir temel yonga ile aktif olarak uygulama geliştiriyor. Böylelikle, hızlandırıcılar üçüncü taraf ASIC çözümlerine kıyasla yaklaşık üçte bir oranında önde olacak. YZ ASIC pazarında pay kapma yarışı hızla devam ederken, NVIDIA ve AMD tasarımlarını sürekli yenilemek zorunda.

“NVIDIA ve AMD’nin, HBM4 ile kendi özel HBM uygulamalarıyla piyasaya çıkmasını bekliyoruz. Diğer hızlandırıcı tasarımcıları ise muhtemelen yalnızca 2027 zaman çizelgesinde HBM4E ile özel temel yonga uygulamasına sahip olacak.” ifadesini SemiAnalysis paylaştı. Broadcom ve MediaTek gibi ASIC tasarımcılarının 2027 çiplerinde çalışır durumda bir çözüme sahip olacağı, NVIDIA ve AMD’nin ise 2026 ürünlerinde özel HBM4 ile avantaj sağlayacağı belirtiliyor. NVIDIA tarafında, mevcut Blackwell mimarisini önemli ölçüde geride bırakması beklenen Rubin mimarisi öne çıkıyor. AMD tarafında ise ilk kez raf ölçeğinde sunulacak Instinct MI400 serisi hızlandırıcılar geliyor.

Genellikle şirketler, Samsung, Micron ve SK Hynix gibi tedarikçiler arasında standart fiyatlandırma modeli uygulandığı için hazır HBM bellek çözümlerini tercih ediyor ama NVIDIA ve AMD gibi çok büyük sipariş hacmine sahip firmalar, özel özellikler talep edebiliyor. HBM mimarisi, temel yonga üzerinde değişiklik yapılmasına imkân tanıdığından, her iki şirket de kendi modifikasyonlarını hazırladı. Bu modifikasyonlar doğrudan TeraFLOPS seviyesinde işlem gücü sağlayan bir hesaplama yongası olmak zorunda değil, ancak veri paketlerini daha verimli yönlendiren, gecikmeyi azaltan ve performansı artıran bir veri işleme/mantık yongası olabilir. Özellikle gecikmenin en önemli faktör olduğu çıkarım (inference) aşamalarında, “daha akıllı” bir HBM tasarımı, üretilen tokenların aktarım hızında çift haneli oranlarda artış sağlayabilir.

‍

‍

‍

‍

Kaynak: https://www.techpowerup.com/339852/nvidia-and-amd-customize-hbm4-memory-for-next-generation-ai-accelerators