NVIDIA RTX 4000 Ada Generation 20GB

연산 구성은 3세대 RT 코어 48개, 4세대 Tensor 코어 192개, CUDA 코어 6,144개다. NVIDIA 데이터시트 기준 단정밀도 성능은 26.7 TFLOPS, RT 코어 성능은 61.8 TFLOPS이며, 두 수치 모두 GPU 부스트 클럭 기준 피크값이다. Tensor 성능은 327.6 TFLOPS로 표기되는데 이는 FP8 정밀도에 희소성(sparsity) 기능을 적용한 실효값이다. 4세대 Tensor 코어는 FP8 정밀도를 지원하며, Ada 세대 지원 정밀도 목록에는 TF32, BF16, FP16, FP8, INT8이 포함된다. 미디어 엔진은 인코더 2개와 디코더 2개를 갖추고 AV1 인코드·디코드를 모두 지원한다.

메모리는 20GB GDDR6에 160비트 인터페이스, 360GB/s 대역폭이며 ECC를 지원한다. 같은 20GB를 쓰는 RTX 4000 SFF Ada가 280GB/s인 것과 비교하면 대역폭에서 약 29% 앞선다. 시스템 인터페이스는 PCIe 4.0 x16이고, NVIDIA 데이터시트상 NVLink는 지원하지 않는다고 명시돼 있다. 따라서 카드를 여러 장 꽂아도 메모리를 하나로 묶을 수 없고, 단일 카드가 다룰 수 있는 데이터셋 상한은 20GB로 고정된다. 디스플레이 출력은 DisplayPort 1.4a 4개이며 4K 120Hz 4대 또는 8K 60Hz 2대까지 동시 구동한다.

총 보드 전력(TGP)은 130W다. NVIDIA 워크스테이션 전원 가이드라인 문서(DA-07261-001_v17) 기준 이 카드는 보조 전원으로 CEM5 16핀 커넥터를 요구한다. 같은 문서에 정리된 NVIDIA 승인 어댑터는 1×PCIe 8핀→CEM5 16핀(최대 150W 신호), 1×CPU 8핀→CEM5 16핀(300W), 2×PCIe 8핀→CEM5 16핀(300W), 4×PCIe 8핀→CEM5 16핀(600W) 네 가지다. 카드 크기는 4.4인치(높이) × 9.5인치(길이) 싱글 슬롯이고 냉각 방식은 카드에 팬을 단 액티브 방식이다. 시스템 쪽에서 16핀 케이블이 나오지 않는 섀시라면 어댑터 확보가 설치 전 확인 사항이 된다.

서버 장착 관점에서는 세 가지를 함께 봐야 한다. 첫째, 물리 조건은 넉넉한 편이다. 싱글 슬롯 풀하이트 카드라 PCIe x16 슬롯 하나면 들어가고, 600W급 데이터센터 GPU가 요구하는 이중폭 PCIe Gen5 슬롯과 고전력 배선은 필요하지 않다. 둘째, 전원 배선이다. CEM5 16핀 입력이므로 서버 PSU와 GPU 전원 하네스가 이 커넥터를 낼 수 있는지, 아니면 승인 어댑터를 쓸지를 미리 정해야 한다. 셋째, 냉각 방식이다. 데이터시트상 이 카드는 액티브(팬 내장) 카드이며, 패시브 GPU를 전제로 고정압 팬 기류를 설계한 랙 섀시에서는 지원 목록에서 빠지는 경우가 있다. 엑스디노드가 취급하는 MSI·GIGABYTE·Advantech 서버 중 어떤 모델에 올릴지는 모델별 GPU 지원 리스트를 확인해 확정하는 것을 권한다.

이 카드가 맞는 자리는 CAD·CAE·DCC 뷰포트, 실시간 레이 트레이싱 렌더링, 20GB 안에서 처리되는 AI 추론과 이미지 생성 워크로드다. 슬롯 하나만 쓰기 때문에 GPU 외에 NIC나 스토리지 카드를 함께 꽂아야 하는 구성에서도 자리를 만들기 쉽다. 반대로 20GB로 감당되지 않는 대형 언어 모델의 학습이나 장문 컨텍스트 추론이라면 HBM 기반 데이터센터 GPU 쪽이 맞다. GPU 간 고속 연결이 필요한 분산 학습도 NVLink 미지원이라 이 제품의 영역이 아니다. 반대 방향으로, 보조 전원 배선을 아예 없애고 싶거나 슬롯 전원 75W 안에서 끝내야 한다면 RTX 4000 SFF Ada 또는 RTX 2000 Ada를 검토하는 편이 낫다.