AMD Helios tanıtıldı: Tek Rack’te 72 GPU ve 2,9 Exaflops FP4 performans

0

BEĞENDİM

ABONE OL

News

0

AMD, Advancing AI 2026 etkinliğinde yeni Helios rack ölçekli yapay zeka altyapısını tanıttı. Instinct MI455X GPU’ları, altıncı kuşak EPYC sunucu işlemcilerini, Pensando ağ tahlillerini ve ROCm yazılımını tek mimaride birleştiren platform büyük ölçekli yapay zeka çıkarımı, öncü model eğitimi ve ince ayar süreçleri için kullanılacak. Tek rack yapılandırmasında 72 GPU, 31 TB HBM4 bellek ve 2,9 exaflops düzeyinde FP4 hesaplama performansı bulunuyor.

AMD Helios, tek rack’ten çoklu rack kurulumlarına ve gigawatt ölçeğindeki yapay zeka kümelerine kadar genişleyebilen açık bir altyapı olarak geliştirildi. Platformda beşinci jenerasyon AMD Instinct ailesinde yer alan MI455X hızlandırıcılar, altıncı jenerasyon AMD EPYC sunucu işlemcileri, AMD Pensando ağ donanımları ve ROCm yazılım platformu birlikte çalışıyor.

Tek bir Helios rack’i, 18 adet Open Rack Wide standardıyla uyumlu süreç tepsisine sahip. Her süreç tepsisinde dört GPU bulunuyor ve rack genelindeki toplam GPU sayısı 72’ye ulaşıyor. Bu yapılandırma 2,9 exaflops zirve FP4 performansı ve 1,4 exaflops zirve FP8 performansı sağlıyor.

Sistemin bellek tarafında toplam 31 TB HBM4 kapasitesi bulunuyor. Bellek bant genişliği ise saniyede 1,7 petabayta ulaşıyor. Yüksek bellek kapasitesi ve bant genişliği, büyük yapay zekâ modellerinin çıkarım, eğitim ve ince ayar süreçlerinde bilgilerin GPU’lar arasında taşınması için kullanılıyor.

Helios’un ağ altyapısında AMD Pensando Vulcano 800 AI NIC üniteleri yer alıyor. Bu ağ kartları, dağıtılmış çıkarım ve öncü model eğitimi sırasında rack’ler ve sunucular arasında yüksek bant genişlikli, düşük gecikmeli irtibat sağlıyor. Sistem, tek rack kurulumundan çok sayıda rack içeren büyük bilgi merkezi kümelerine birebir donanım bloklarıyla genişletilebiliyor.

GPU’ların birebir rack içindeki ölçeklendirilmesi için Ethernet üzerinden UALink, öbür ismiyle UALoE kullanılıyor. Rack’ler ve kümeler arasındaki ölçeklendirme ilişkileri ise Ultra Ethernet Consortium standartlarıyla uyumlu Ethernet altyapısı üzerinden kuruluyor. Böylelikle platformun ölçek büyütme ve ölçek genişletme ilişkileri açık standartlara dayanan Ethernet teknolojileriyle sağlanıyor.

ROCm yazılım platformu, rack ve küme ölçeğindeki sistemlerde yüksek hacimli çıkarım ile birleşik dağıtılmış eğitim dayanağı sunuyor. Helios mimarisinde ayrıyeten donanım ve yazılım katmanlarını kapsayan çok katmanlı rack güvenliği bulunuyor. AMD, platformu özel ağ teknolojilerine bağlı olmayan açık bir yapay zekâ altyapısı olarak konumlandırıyor.

Helios, düşük, orta ve yüksek etkileşim düzeylerindeki yapay zekâ iş yükleri için token transfer performansına odaklanıyor. Kimi K2 Thinking modeliyle yapılan modellemede 32 bin token giriş ve 8 bin token çıkış uzunluğu kullanıldı. Testler, farklı karşılık mühleti ve etkileşim ihtiyaçlarına sahip çıkarım senaryolarını kapsadı.

NVIDIA Vera Rubin NVL72 rack ile yapılan teknik karşılaştırmada Helios, yüzde 15 daha yüksek teorik zirve FP4 performansı, yüzde 50 daha fazla HBM kapasitesi, yüzde 6 daha yüksek HBM bant genişliği ve yüzde 50 daha fazla ölçek genişletme bant genişliği sundu. Token başına maliyet hesaplamasında Helios için dolar başına yüzde 30’a kadar daha fazla token üretim pahası paylaşıldı.

Performans ve bellek karşılaştırmaları, AMD Performance Labs tarafından Haziran ve Temmuz 2026’da gerçekleştirilen hesaplama ve modellemeleri kapsıyor. Bedellerde Helios’un teknik özellikleri ile NVIDIA Vera Rubin NVL72’nin yayımlanmış özellikleri kullanıldı. FP4 karşılaştırması teorik zirve hesaplama performansı üzerinden yapıldı.

Dolar başına token karşılaştırmasında Kimi K2 Thinking iş yükünün toplam çıkarım hacmi, düşük, orta ve yüksek etkileşim düzeyleri ve piyasa şartlarına dayanan kestirimi saatlik GPU fiyatları kullanıldı. Sistem üreticilerinin donanım yapılandırmaları ve fiyatlandırmaları sonuncu performans ile maliyet sonuçlarını değiştirebilir.

AMD Yapay Zekâ Kıdemli Başkan Yardımcısı Vamsi Boppana, Helios’un yüksek performanslı hesaplama, ağ teknolojileri ve açık yazılımı tek rack ölçekli platformda birleştirdiğini belirtti. Platform; büyük ölçekli çıkarım, öncü model eğitimi, ince ayar ve yapay zekâ fabrikası kurulumlarında kullanılacak.