FP64 | 5.2 teraFLOPS | ||
FP64 텐서 코어 | 10.3 teraFLOPS | ||
FP32 | 10.3 teraFLOPS | ||
TF32 텐서 코어 | 82 테라플롭스 | ||
BFLOAT16 텐서 코어 | 165 테라플롭 | ||
FP16 텐서 코어 | 165 테라플롭 | ||
INT8 텐서 코어 | 330TOPS. 661TOPS* | ||
INT4 텐서 코어 | 661TOPS 1321TOPS* | ||
미디어 엔진 | 1개의 광적 흐름 가속기 (OFA) 1 JPEG 디코더 (NVJPEG) 4개의 비디오 디코더 (NVDEC) | ||
GPU 메모리 | 24GB HBM2 | ||
GPU 메모리 대역폭 | 933GB/s | ||
상호 연결 | PCIe Gen4: 64GB/s 3세대 NVLINK: 200GB/s** | ||
형태 요인 | 듀얼 슬롯, 전체 높이, 전체 길이 (FHFL) | ||
최대 열 설계 전력 (TDP) | 165W | ||
멀티 인스턴스 GPU (MIG) | 각 4개의 GPU 인스턴스 @ 6GB 각 2개의 GPU 인스턴스 @ 12GB 1개의 GPU 인스턴스 @ 24GB | ||
가상 GPU (vGPU) 소프트웨어 지원 | NVIDIA AI 엔터프라이즈 NVIDIA 가상 컴퓨팅 서버 |