Image du produit à titre d'illustration ; la configuration peut différer.
NVIDIA HGX B200 8-GPU Server
8× NVIDIA B200 Tensor Core GPUs on HGX with fifth-generation NVLink — priced on quote.
| Total GPU memory | 1.4 TB HBM3e |
|---|---|
| GPU interconnect | Fifth-generation NVLink / NVSwitch |
| GPUs | 8× NVIDIA B200 |
NVIDIA HGX B200 8-GPU Server est fabriqué sur commande et chiffré par projet (configuration, livraison, installation et support).
Testez un modèle sur nos machines avant d'acheter.
Choisissez le modèle et la quantification que vous comptez utiliser. Nous vous montrons s'il tient en mémoire, la place restante pour le contexte et le débit attendu. Les estimations reposent sur la bande passante mémoire et sont remplacées par nos propres mesures quand nous en avons.
Machine
Quantification
Confortable. 70 GB de marge — de la place pour un contexte de 128k, un deuxième petit modèle ou un index RAG en mémoire. Comptez environ 3.8 tok/s en flux unique.
Machines qui font tourner cette configuration
Poids 42.8 GB à 4.85 bits/paramètre · cache KV 5.0 GB à 16k (fp16, approximatif) · 10 GB réservés à l'OS et au runtime. La vitesse correspond au décodage en flux unique, limité par la mémoire ; le traitement du prompt et le batching se comportent différemment. Ou contactez un ingénieur sur WhatsApp au +44 7515 356 146.
An HGX B200 platform for large-scale training and real-time inference, integrated with your choice of host CPUs, memory, storage and NVIDIA networking. Configuration, power/cooling survey and allocation are handled on quote.