Image du produit à titre d'illustration ; la configuration peut différer.
NVIDIA Vera Rubin NVL72 rack-scale system
Next-generation Vera Rubin NVL72 rack: 72 Rubin GPUs and 36 Vera CPUs, 20.7 TB of HBM4 in one NVLink 6 domain — priced on quote.
| Cooling | Liquid cooled, 45°C inlet |
|---|---|
| CPUs | 36× NVIDIA Vera (3,168 Olympus cores) |
| GPU memory | 20.7 TB HBM4, 1,400 TB/s |
| AI performance | 3,600 PFLOPS NVFP4 inference, 2,520 PFLOPS NVFP4 training, 1,260 PFLOPS FP8 |
| NVLink | Sixth generation, 216 TB/s |
| GPUs | 72× NVIDIA Rubin |
| Networking | ConnectX-9 SuperNICs, BlueField-4 DPUs, 32.4 TB/s |
| CPU memory | Up to 54 TB LPDDR5X |
NVIDIA Vera Rubin NVL72 rack-scale system est fabriqué sur commande et chiffré par projet (configuration, livraison, installation et support).
Testez un modèle sur nos machines avant d'acheter.
Choisissez le modèle et la quantification que vous comptez utiliser. Nous vous montrons s'il tient en mémoire, la place restante pour le contexte et le débit attendu. Les estimations reposent sur la bande passante mémoire et sont remplacées par nos propres mesures quand nous en avons.
Machine
Quantification
Confortable. 70 GB de marge — de la place pour un contexte de 128k, un deuxième petit modèle ou un index RAG en mémoire. Comptez environ 3.8 tok/s en flux unique.
Machines qui font tourner cette configuration
Poids 42.8 GB à 4.85 bits/paramètre · cache KV 5.0 GB à 16k (fp16, approximatif) · 10 GB réservés à l'OS et au runtime. La vitesse correspond au décodage en flux unique, limité par la mémoire ; le traitement du prompt et le batching se comportent différemment. Ou contactez un ingénieur sur WhatsApp au +44 7515 356 146.
NVIDIA's rack-scale system after Blackwell: 72 Rubin GPUs and 36 Vera CPUs, with ConnectX-9 SuperNICs and BlueField-4 DPUs, joined by sixth-generation NVLink into one 72-GPU domain. It is built for agentic AI, trillion-parameter models and million-token contexts. NVIDIA quotes about a tenth of the cost per million tokens and a quarter of the GPUs for mixture-of-experts training compared with GB200 NVL72. It uses the third-generation MGX NVL72 rack design, so sites already planned for GB200 or GB300 NVL72 have a clear upgrade path. It is liquid cooled, with an inlet temperature of up to 45°C.
Workstation runs this as a project: site survey, power and cooling design, rack layout, installation and cabling, then onboarding onto Base Command Manager or Mission Control, Kubernetes or Slurm. Ongoing monitoring and managed support contracts are available. Support comes from our own UK engineers, and Trade members get free tech support on every order.
Priced on quote: tell us what you need and we will confirm price, allocation and lead time with our suppliers.