Nvidia Rubin: Vera Rubin NVL72 Raf Sistemiyle Yapay Zeka Alanında Yeni Nesil Entegrasyon
Nvidia, yapay zeka odaklı veri merkezleri için tasarladığı Rubin platformunu resmen tanıttı. Var olan Blackwell mimarisine göre önemli bir performans artışı vaat eden Rubin, 5 kata varan hız kazanımı ile şirketin şimdiye kadarki en güçlü yapay zeka platformu olarak öne çıkıyor. Altı farklı çipten oluşan sistem, Rubin GPU, Vera CPU, NVLink 6 Switch, ConnectX-9 ve BlueField-4 ağ çözümleri ile Spectrum-X 102.4T CPO silikon fotonik altyapısını barındırıyor ve DGX, HGX ile MGX çözümleriyle uyumlu çalışacak şekilde tasarlandı.
Merkeze konumlandırılan Rubin Superchip, iki Rubin GPU, bir Vera CPU ve yüksek kapasiteli HBM4 ile LPDDR5x bellekleri bir araya getiriyor. Rubin GPU, bağımsız işlem ve tensor çekirdeklerinden oluşan ikili modüler tasarım sunuyor ve NVFP4 formatında 50 PFLOPs çıkarım ile 35 PFLOPs eğitim kapasitesi vaat ediyor. Blackwell’e kıyasla sırasıyla 5 kat ve 3,5 kat artışlar söz konusu. Ayrıca HBM4 üzerinden çip başına 22 TB/s bellek bant genişliği sağlanıyor; bu değer Blackwell’e göre yaklaşık 2,8 kat artışa tekabül ediyor. CPU tarafında 3,6 TB/s NVLink bant genişliği sunan her bir Vera CPU, Olympus kod adlı Arm tabanlı mimarisine dayanıyor ve toplamda 88 çekirdek ile 176 iş parçacığı sağlıyor.
Vera CPU’nun bellek ve bağlanabilirlik tarafında dikkat çekici değerler bulunuyor: 1,8 TB/s NVLink-C2C bellek tutarlılığı, 1,5 TB sistem belleği ve 1,2 TB/s LPDDR5x bellek bant genişliği ile Grace mimarisine kıyasla belirgin bir artış gösteriyor. Bu yapı, sıkıştırma, veri işleme ve CI/CD iş yüklerinde performans olarak önemli gelişmeler sunuyor. Ayrıca platform, raf ölçeğinde gizli hesaplama desteğini de kapsıyor.
NVLink 6 Switch, 400G SerDes altyapısı sayesinde CPU başına 3,6 TB/s toplam bağlantı kapasitesi sağlıyor ve toplam ağ kapasitesi 28,8 TB/s olarak kayda geçiyor. Ağ içi işlem gücü 14,4 TFLOPS FP8 olarak belirtiliyor ve tasarım tamamen sıvı soğutmalı olarak düşünülmüş. Ağ tarafında ConnectX-9 SuperNIC ise 1,6 TB/s bant genişliği, 200G PAM4 SerDes, gelişmiş güvenlik özellikleri ve programlanabilir RDMA ile öne çıkıyor. BlueField-4 DPU ise 64 çekirdekli Grace CPU’yu ConnectX-9 ile entegre ederek önceki nesle kıyasla ağda 2 kat, işlem gücünde 6 kat ve bellek bant genişliğinde 3 kat avantaj sunuyor.
Rubin NVL72 raf sistemiyle bir araya gelen bu tüm bileşenler, Nvidia Vera Rubin NVL72 platformunda toplanıyor. Blackwell tabanlı çözümlerle karşılaştırıldığında NVL72, çıkarmalarda 5 kat NVFP4 başarısı ve eğitimde 3,5 kat NVFP4 performansı elde ediyor. Bellek tarafında LPDDR5x kapasitesi 54 TB, HBM4 kapasitesi 20,7 TB olarak ifade ediliyor; HBM4 bant genişliği 1,6 PB/s ile 2,8 kat artış sunuyor. Ayrıca bant genişliği 260 TB/s’ye kadar ölçeklenebiliyor. Spectrum-X Ethernet Co-Packaged Optics ile entegre çalışan 102,4 Tb/s ölçeklenebilir anahtarlama altyapısı, 200G silikon fotonik entegrasyonu ile %95 etkin bant genişliği sağlıyor ve bu çözümler 5 kat verimlilik, 10 kat güvenilirlik ve 5 kat daha uzun uygulama çalışma süresi vaad ediyor.
Rubin SuperPOD için tasarlanan Inference Context Memory Storage çözümü, büyük ölçekli çıkarım senaryolarına odaklanırken Dynamo, NIXL ve DOCA gibi Nvidia yazılım çözümleriyle tam entegre çalışıyor. Rubin platformu şu anda tam üretim aşamasında ve ilk müşterilerin çipleri bu yıl içinde teslim alınacak şekilde planlanıyor. Ayrıca Nvidia, Rubin ile birlikte DGX SuperPOD ailesine 8 adet NVL72 raf içeren yeni bir nesil ve DGX Rubin NVL8 konfigürasyonunu da sunacağını duyuruyor. Rubin, Blackwell GB200’e kıyasla çıkarım token maliyetini 10 kat azaltmayı ve MoE model eğitiminde kullanılan GPU sayısını 4 kat azaltmayı hedefliyor.
