NVIDIA DGX BasePOD
Reference architecture for a cluster of two or more DGX systems with networking, storage and cluster software.
| Type | Reference architecture |
|---|---|
| Scale | 2 or more DGX systems |
| Storage | Partner storage |
| Networking | Per reference architecture |
| Software | NVIDIA AI Enterprise, Base Command |
NVIDIA DGX BasePOD est fabriqué sur commande et chiffré par projet (configuration, livraison, installation et support).
Testez un modèle sur nos machines avant d'acheter.
Choisissez le modèle et la quantification que vous comptez utiliser. Nous vous montrons s'il tient en mémoire, la place restante pour le contexte et le débit attendu. Les estimations reposent sur la bande passante mémoire et sont remplacées par nos propres mesures quand nous en avons.
Machine
Quantification
Confortable. 70 GB de marge — de la place pour un contexte de 128k, un deuxième petit modèle ou un index RAG en mémoire. Comptez environ 3.8 tok/s en flux unique.
Machines qui font tourner cette configuration
Poids 42.8 GB à 4.85 bits/paramètre · cache KV 5.0 GB à 16k (fp16, approximatif) · 10 GB réservés à l'OS et au runtime. La vitesse correspond au décodage en flux unique, limité par la mémoire ; le traitement du prompt et le batching se comportent différemment. Ou contactez un ingénieur sur WhatsApp au +44 7515 356 146.
NVIDIA's reference design for joining two or more DGX systems into one cluster, with matched networking, partner storage and the Base Command software stack. We design, install and hand over the whole pod.
Workstation runs this as a project: site survey, power and cooling design, rack layout, installation and cabling, then onboarding onto Base Command Manager or Mission Control, Kubernetes or Slurm. Ongoing monitoring and managed support contracts are available. Support comes from our own UK engineers, and Trade members get free tech support on every order.
Priced on quote: tell us what you need and we will confirm price, availability and lead time.