Nvidia Vera Rubin tam üretime geçti: Yeni nesil AI fabrikaları için hazır

Nvidia, yapay zeka altyapılarındaki bir sonraki büyük adım olarak gördüğü Vera Rubin platformunun tam üretim aşamasına geçtiğini duyurdu. Şirket, son dönemde ortaya atılan gecikme iddialarını da fiilen boşa çıkarırken yeni platformun dünya genelinde milyarlarca dolarlık yapay zeka veri merkezlerine güç vermeye hazır olduğunu açıkladı.

Altı farklı çip, tek ekosistem

Rubin platformu toplam altı temel bileşenden oluşuyor. Bunlar 336 milyar transistörlü Rubin GPU, 227 milyar transistörlü Vera CPU, NVLink 6 bağlantı anahtarı, ConnectX-9 ve BlueField-4 ağ çözümleri ile Spectrum-X silikon fotonik altyapısı olarak sıralanıyor. Bu bileşenlerin tamamı DGX, HGX ve MGX sistemlerinde kullanılacak şekilde tasarlandı.

Sistemin merkezinde ise Nvidia’nın Vera Rubin Superchip adını verdiği çözüm yer alıyor. Bu yapı içerisinde iki Rubin GPU ve bir Vera CPU bulunuyor. Ayrıca yüksek kapasiteli HBM4 ve LPDDR5X bellekler de sistemin temel parçaları arasında yer alıyor.

Blackwell’in çok ötesine geçilecek

Yeni Rubin GPU, yapay zeka iş yükleri için özel olarak tasarlandı. Yeni çip, 50 PFLOPS NVFP4 çıkarım performansı ve 35 PFLOPS NVFP4 eğitim performansı sunuyor. Nvidia’nın verilerine göre bu değerler Blackwell mimarisine kıyasla çıkarım tarafında 5 kat, eğitim tarafında ise 3,5 kat daha yüksek performans anlamına geliyor.

Rubin GPU, çip başına 22 TB/s HBM4 bant genişliği sunarken önceki nesle göre yaklaşık 2,8 kat daha yüksek veri aktarım kapasitesine ulaşıyor. Ayrıca GPU başına 3,6 TB/s NVLink bant genişliği sağlanıyor.

Platformun işlemci tarafında yer alan Vera CPU, Nvidia tarafından geliştirilen Olympus kod adlı özel Arm mimarisini temel alıyor. İşlemci, 88 çekirdek ve 176 iş parçacığı ile geliyor. Ayrıca 1,8 TB/s NVLink-C2C bağlantı kapasitesi, 1,5 TB sistem belleği desteği ve 1,2 TB/s LPDDR5X bant genişliği sunuyor.

Nvidia’ya göre Vera CPU, Grace işlemcilerine kıyasla veri işleme, sıkıştırma ve CI/CD iş yüklerinde yaklaşık iki kat performans artışı sağlıyor.

Yeni ağ ve bağlantı teknolojileri de platformun parçası

Rubin mimarisinde veri aktarım performansını artırmak için NVLink 6 teknolojisi kullanılıyor. Yeni nesil bağlantı altyapısı GPU başına 3,6 TB/s bant genişliği sağlarken, toplamda 28,8 TB/s veri aktarım kapasitesine ulaşabiliyor.
Ağ tarafında görev yapan ConnectX-9 SuperNIC çözümü 800 Gb/s Ethernet desteği sunarken programlanabilir RDMA ve veri yolu hızlandırma özellikleriyle büyük ölçekli yapay zeka kümeleri için optimize edildi. BlueField-4 ise 64 çekirdekli Grace CPU ile birlikte geliyor ve önceki nesle göre iki kat ağ performansı, altı kat işlem gücü ve üç kat bellek bant genişliği sağlıyor.

 

Şirket ayrıca Spectrum-X Ethernet Co-Packaged Optics çözümünü de duyurdu. 102,4 Tb/s ölçeklenebilir ağ altyapısı sunan teknoloji, silikon fotonik kullanımı sayesinde enerji verimliliğini artırırken büyük ölçekli yapay zeka sistemlerinde daha yüksek güvenilirlik sağlamayı hedefliyor.

Bu yıl müşterilere teslim edilecek

Nvidia’nın açıkladığı verilere göre Vera Rubin NVL72 sistemi, Blackwell NVL72 platformuna kıyasla önemli performans kazanımları sunuyor. Sistem, 3,6 EFLOPS çıkarım performansı ile 5 kat daha yüksek işlem gücü sağlarken, eğitim performansında da 2,5 EFLOPS seviyesine ulaşarak 3,5 kat artış sunuyor.

Bunun yanında LPDDR5X kapasitesi 54 TB’a, HBM4 kapasitesi ise 20,7 TB’a çıkıyor. HBM4 bant genişliği 1,6 PB/s seviyesine ulaşırken, ölçeklendirme bant genişliği de 260 TB/s olarak belirtiliyor.

Nvidia, yeni platformun yalnızca performans artışı sağlamayacağını, aynı zamanda yapay zeka ekonomisini de değiştireceğini savunuyor. Şirketin hesaplamalarına göre Rubin mimarisi, çıkarım işlemlerindeki token maliyetlerini 10 kat azaltabilecek. Ayrıca Mixture of Experts (MoE) modellerinin eğitimi için gereken GPU sayısının dört kat azaltılabileceği ifade ediliyor.

Nvidia, Vera Rubin platformunun ilk sistemlerini bu yıl müşterilere teslim etmeyi planlıyor. Platformun hem DGX SuperPOD altyapılarında hem de daha geniş veri merkezi kurulumlarında kullanılması bekleniyor.

Author: admin