Productafbeelding ter illustratie; de configuratie kan afwijken.
NVIDIA GB200 NVL72 rack-scale system
72 Blackwell GPUs and 36 Grace CPUs in one liquid-cooled NVLink domain — priced on quote.
| CPUs | 36× NVIDIA Grace |
|---|---|
| Cooling | Liquid cooled |
| NVLink domain | 72 GPUs (NVLink Switch System) |
| GPUs | 72× NVIDIA Blackwell |
NVIDIA GB200 NVL72 rack-scale system wordt op bestelling gebouwd en per project geprijsd (configuratie, levering, installatie en support).
Test een model op onze machines voordat u koopt.
Kies het model en de kwantisatie die u wilt draaien. We tonen of het in het geheugen past, hoeveel ruimte er overblijft voor context en welke doorvoer u mag verwachten. Schattingen zijn gebaseerd op de geheugenbandbreedte en worden vervangen door onze eigen meetwaarden waar we die hebben.
Machine
Kwantisatie
Ruim voldoende. 70 GB over — ruimte voor 128k context, een tweede klein model of een RAG-index in het geheugen. Reken op ongeveer 3.8 tok/s bij één stream.
Machines die deze configuratie draaien
Gewichten 42.8 GB bij 4.85 bits/parameter · KV-cache 5.0 GB bij 16k (fp16, bij benadering) · 10 GB gereserveerd voor OS en runtime. Snelheid is decodering bij één stream, begrensd door het geheugen; promptverwerking en batching gedragen zich anders. Of stuur een engineer een WhatsApp-bericht op +44 7515 356 146.
Rack-scale GB200 NVL72: 36 GB200 Superchips acting as a single 72-GPU NVLink domain for trillion-parameter training and inference. Requires liquid cooling and facility planning; delivered as a project.