Productafbeelding ter illustratie; de configuratie kan afwijken.
BOXX RAXX AI T3P
Rack-mount four-GPU Threadripper PRO AI workstation.
| NVIDIA GPU options | 4× NVIDIA RTX 6000 Ada (as configured) |
|---|---|
| Storage | 4 TB |
| CPU | AMD Ryzen Threadripper PRO 7995WX |
| Form factor | Rack |
BOXX RAXX AI T3P wordt op bestelling gebouwd en per project geprijsd (configuratie, levering, installatie en support).
Test een model op onze machines voordat u koopt.
Kies het model en de kwantisatie die u wilt draaien. We tonen of het in het geheugen past, hoeveel ruimte er overblijft voor context en welke doorvoer u mag verwachten. Schattingen zijn gebaseerd op de geheugenbandbreedte en worden vervangen door onze eigen meetwaarden waar we die hebben.
Machine
Kwantisatie
Ruim voldoende. 70 GB over — ruimte voor 128k context, een tweede klein model of een RAG-index in het geheugen. Reken op ongeveer 3.8 tok/s bij één stream.
Machines die deze configuratie draaien
Gewichten 42.8 GB bij 4.85 bits/parameter · KV-cache 5.0 GB bij 16k (fp16, bij benadering) · 10 GB gereserveerd voor OS en runtime. Snelheid is decodering bij één stream, begrensd door het geheugen; promptverwerking en batching gedragen zich anders. Of stuur een engineer een WhatsApp-bericht op +44 7515 356 146.
A rack-mount BOXX system with four RTX 6000 Ada GPUs and a 96-core Threadripper PRO, for shared AI training in the server room.
Supplied and configured by Workstation: built to your chosen CPU, GPU, memory and storage, burn-in and thermal tested, imaged with your operating system and software (CUDA, PyTorch, AI Workbench or your ISV applications) and delivered ready to work. On-site installation, data migration and multi-year on-site warranty can be added. Support comes from our own UK engineers, and Trade members get free tech support on every order.
Priced on quote: tell us what you need and we will confirm price, availability and lead time.