Productafbeelding ter illustratie; de configuratie kan afwijken.
NVIDIA L4 24 GB
Low-profile, single-slot Ada Lovelace GPU with 24 GB for efficient inference and video AI.
| Cooling | Passive (server airflow) |
|---|---|
| Interface | PCIe |
| GPU memory | 24 GB GDDR6 |
| Form factor | Single-slot, low profile |
| Architecture | NVIDIA Ada Lovelace |
NVIDIA L4 24 GB wordt op bestelling gebouwd en per project geprijsd (configuratie, levering, installatie en support).
Test een model op onze machines voordat u koopt.
Kies het model en de kwantisatie die u wilt draaien. We tonen of het in het geheugen past, hoeveel ruimte er overblijft voor context en welke doorvoer u mag verwachten. Schattingen zijn gebaseerd op de geheugenbandbreedte en worden vervangen door onze eigen meetwaarden waar we die hebben.
Machine
Kwantisatie
Ruim voldoende. 70 GB over — ruimte voor 128k context, een tweede klein model of een RAG-index in het geheugen. Reken op ongeveer 3.8 tok/s bij één stream.
Machines die deze configuratie draaien
Gewichten 42.8 GB bij 4.85 bits/parameter · KV-cache 5.0 GB bij 16k (fp16, bij benadering) · 10 GB gereserveerd voor OS en runtime. Snelheid is decodering bij één stream, begrensd door het geheugen; promptverwerking en batching gedragen zich anders. Of stuur een engineer een WhatsApp-bericht op +44 7515 356 146.
A small, low-power card that fits almost any server, used for inference, video analytics and transcoding where rack density and power matter more than peak speed.
Fitted in a Workstation server or supplied standalone. Before it ships we check it against your chassis (power, airflow, risers, slot layout and NVIDIA-Certified status), burn-in test it and install drivers, CUDA, vGPU and NVIDIA AI Enterprise licensing where needed. Warranty claims and advance replacements are handled by us. Support comes from our own UK engineers, and Trade members get free tech support on every order.
Priced on quote: tell us what you need and we will confirm price, availability and lead time.