Image du produit à titre d'illustration ; la configuration peut différer.
NVIDIA GB200 NVL72 rack-scale system
72 Blackwell GPUs and 36 Grace CPUs in one liquid-cooled NVLink domain — priced on quote.
| Cooling | Liquid cooled |
|---|---|
| NVLink domain | 72 GPUs (NVLink Switch System) |
| GPUs | 72× NVIDIA Blackwell |
| CPUs | 36× NVIDIA Grace |
NVIDIA GB200 NVL72 rack-scale system est fabriqué sur commande et chiffré par projet (configuration, livraison, installation et support).
Testez un modèle sur nos machines avant d'acheter.
Choisissez le modèle et la quantification que vous comptez utiliser. Nous vous montrons s'il tient en mémoire, la place restante pour le contexte et le débit attendu. Les estimations reposent sur la bande passante mémoire et sont remplacées par nos propres mesures quand nous en avons.
Machine
Quantification
Confortable. 70 GB de marge — de la place pour un contexte de 128k, un deuxième petit modèle ou un index RAG en mémoire. Comptez environ 3.8 tok/s en flux unique.
Machines qui font tourner cette configuration
Poids 42.8 GB à 4.85 bits/paramètre · cache KV 5.0 GB à 16k (fp16, approximatif) · 10 GB réservés à l'OS et au runtime. La vitesse correspond au décodage en flux unique, limité par la mémoire ; le traitement du prompt et le batching se comportent différemment. Ou contactez un ingénieur sur WhatsApp au +44 7515 356 146.
Rack-scale GB200 NVL72: 36 GB200 Superchips acting as a single 72-GPU NVLink domain for trillion-parameter training and inference. Requires liquid cooling and facility planning; delivered as a project.