NVIDIA DGX BasePOD
Reference architecture for a cluster of two or more DGX systems with networking, storage and cluster software.
| Type | Reference architecture |
|---|---|
| Software | NVIDIA AI Enterprise, Base Command |
| Scale | 2 or more DGX systems |
| Storage | Partner storage |
| Networking | Per reference architecture |
NVIDIA DGX BasePOD wordt op bestelling gebouwd en per project geprijsd (configuratie, levering, installatie en support).
Test een model op onze machines voordat u koopt.
Kies het model en de kwantisatie die u wilt draaien. We tonen of het in het geheugen past, hoeveel ruimte er overblijft voor context en welke doorvoer u mag verwachten. Schattingen zijn gebaseerd op de geheugenbandbreedte en worden vervangen door onze eigen meetwaarden waar we die hebben.
Machine
Kwantisatie
Ruim voldoende. 70 GB over — ruimte voor 128k context, een tweede klein model of een RAG-index in het geheugen. Reken op ongeveer 3.8 tok/s bij één stream.
Machines die deze configuratie draaien
Gewichten 42.8 GB bij 4.85 bits/parameter · KV-cache 5.0 GB bij 16k (fp16, bij benadering) · 10 GB gereserveerd voor OS en runtime. Snelheid is decodering bij één stream, begrensd door het geheugen; promptverwerking en batching gedragen zich anders. Of stuur een engineer een WhatsApp-bericht op +44 7515 356 146.
NVIDIA's reference design for joining two or more DGX systems into one cluster, with matched networking, partner storage and the Base Command software stack. We design, install and hand over the whole pod.
Workstation runs this as a project: site survey, power and cooling design, rack layout, installation and cabling, then onboarding onto Base Command Manager or Mission Control, Kubernetes or Slurm. Ongoing monitoring and managed support contracts are available. Support comes from our own UK engineers, and Trade members get free tech support on every order.
Priced on quote: tell us what you need and we will confirm price, availability and lead time.