Image du produit à titre d'illustration ; la configuration peut différer.
NVIDIA HGX B300 8-GPU Server
8× NVIDIA Blackwell Ultra B300 GPUs on HGX — priced on quote.
| GPUs | 8× NVIDIA B300 (Blackwell Ultra) |
|---|---|
| GPU interconnect | Fifth-generation NVLink / NVSwitch |
| GPU memory | 288 GB HBM3e per GPU |
NVIDIA HGX B300 8-GPU Server est fabriqué sur commande et chiffré par projet (configuration, livraison, installation et support).
Testez un modèle sur nos machines avant d'acheter.
Choisissez le modèle et la quantification que vous comptez utiliser. Nous vous montrons s'il tient en mémoire, la place restante pour le contexte et le débit attendu. Les estimations reposent sur la bande passante mémoire et sont remplacées par nos propres mesures quand nous en avons.
Machine
Quantification
Confortable. 70 GB de marge — de la place pour un contexte de 128k, un deuxième petit modèle ou un index RAG en mémoire. Comptez environ 3.8 tok/s en flux unique.
Machines qui font tourner cette configuration
Poids 42.8 GB à 4.85 bits/paramètre · cache KV 5.0 GB à 16k (fp16, approximatif) · 10 GB réservés à l'OS et au runtime. La vitesse correspond au décodage en flux unique, limité par la mémoire ; le traitement du prompt et le batching se comportent différemment. Ou contactez un ingénieur sur WhatsApp au +44 7515 356 146.
HGX B300 (Blackwell Ultra) for AI reasoning and training at scale. We size host, networking (ConnectX-8 SuperNICs) and facility power with you before quoting.