
Image du produit à titre d'illustration ; la configuration peut différer.
NVIDIA HGX platform
NVLink-connected multi-GPU baseboards built into partner servers for AI and HPC — priced on quote.
| Type | Multi-GPU server platform |
|---|---|
| GPU interconnect | NVIDIA NVLink |
| Generations | Hopper and Blackwell |
| Built by | NVIDIA-Certified partner servers |
NVIDIA HGX platform est fabriqué sur commande et chiffré par projet (configuration, livraison, installation et support).
Testez un modèle sur nos machines avant d'acheter.
Choisissez le modèle et la quantification que vous comptez utiliser. Nous vous montrons s'il tient en mémoire, la place restante pour le contexte et le débit attendu. Les estimations reposent sur la bande passante mémoire et sont remplacées par nos propres mesures quand nous en avons.
Machine
Quantification
Confortable. 70 GB de marge — de la place pour un contexte de 128k, un deuxième petit modèle ou un index RAG en mémoire. Comptez environ 3.8 tok/s en flux unique.
Machines qui font tourner cette configuration
Poids 42.8 GB à 4.85 bits/paramètre · cache KV 5.0 GB à 16k (fp16, approximatif) · 10 GB réservés à l'OS et au runtime. La vitesse correspond au décodage en flux unique, limité par la mémoire ; le traitement du prompt et le batching se comportent différemment. Ou contactez un ingénieur sur WhatsApp au +44 7515 356 146.
HGX combines NVIDIA GPUs, NVLink, NVIDIA networking and an optimised AI and HPC software stack on one baseboard that server makers build their flagship GPU servers around. We specify the HGX generation and the server around it; ready-configured HGX B200 and B300 servers are also listed.
Workstation runs this as a project: site survey, power and cooling design, rack layout, installation and cabling, then onboarding onto Base Command Manager or Mission Control, Kubernetes or Slurm. Ongoing monitoring and managed support contracts are available. Support comes from our own UK engineers, and Trade members get free tech support on every order.
Priced on quote: tell us what you need and we will confirm price, availability and lead time.