规格

FP32

31.2 TF

TF32 Tensor Core

62.5 TF | 125 TF^*

BFLOAT16 Tensor Core

125 TF |250 TF^*

FP16 Tensor Core

125 TF | 250 TF^*

INT8 Tensor Core

250 TOPS | 500 TOPS^*

INT4 Tensor Core

500 TOPS | 1000 TOPS^*

RT Core 数

72

编码/解码

1 个编码器
2 个解码器
（+AV1 解码）

GPU 显存

24GB GDDR6

GPU 显存带宽

600 GB/s

互联

PCIe 4.0：64 GB/s

外形规格

1 插槽 FHFL

最大 TDP 功耗

150W

vGPU 软件支持

NVIDIA vPC/vApp、
NVIDIA RTX™ vWS、
NVIDIA 虚拟计算服务器 (vCS)

通过硬件信任根进行安全可靠的引导

是

NEBS Ready

3 级

电源接口

PEX 8针