NVIDIA RTX PRO 4000

Blackwell 아키텍처 기반으로 CUDA 코어 8,960개, 5세대 Tensor 코어, 4세대 RT 코어를 탑재합니다. NVIDIA 제품 페이지 기준 단정밀도(FP32) 연산 성능은 40 TFLOPS, RT 코어 성능은 122 TFLOPS, AI 성능은 1,290 AI TOPS입니다. AI TOPS 수치는 FP4 정밀도에 희소성(sparsity)을 적용한 기준값이므로 실제 워크로드 성능과는 차이가 있다는 점을 감안해 비교해야 합니다. 5세대 Tensor 코어는 FP4 정밀도를 지원해 같은 메모리 용량으로 더 큰 모델을 올릴 수 있고, 4세대 RT 코어는 이전 세대 대비 광선-삼각형 교차 처리율이 두 배입니다. 영상 처리는 9세대 NVENC 2개와 6세대 NVDEC 2개가 담당하며 4:2:2 인코딩·디코딩을 지원합니다.

메모리는 24GB GDDR7이며 ECC를 지원합니다. 메모리 인터페이스는 192비트, 대역폭은 672GB/s로 같은 24GB를 쓰는 SFF 버전(432GB/s)보다 넓습니다. 시스템 인터페이스는 PCIe 5.0 x16 전 레인을 사용하므로 호스트와 GPU 사이 데이터 이동이 잦은 전처리 작업이나 대용량 씬 로딩에서 레인 수가 제약이 되지 않습니다. 디스플레이 출력은 DisplayPort 2.1b 4개로 3840x2160 165Hz 4대 또는 7680x4320 100Hz 2대까지 동시 구동합니다. NVLink는 공식 사양표에 기재되어 있지 않으므로, 여러 장을 장착하더라도 메모리는 합쳐지지 않고 카드별로 24GB씩 사용하게 됩니다.

총 보드 전력은 140W이며 보조 전원은 PCIe CEM5 16핀 커넥터 1개를 사용합니다. 냉각은 액티브 방식으로 카드에 팬이 내장되어 있어, 섀시의 강제 공랭에만 의존하는 패시브 서버 카드와는 설치 조건이 다릅니다. 크기는 4.4인치 x 9.5인치(약 111.8mm x 241.3mm), 싱글 슬롯 풀 하이트입니다. 풀 하이트이므로 1U 섀시에는 들어가지 않고 2U 이상 또는 타워형 시스템이 대상입니다. 140W는 600W급 카드 대비 낮은 편이라 섀시 전체의 전력·발열 예산에 주는 부담이 작습니다.

엑스디노드가 취급하는 MSI·GIGABYTE·Advantech 서버에 장착할 때 확인할 항목은 세 가지입니다. 첫째, 600W급 카드가 요구하는 이중폭 PCIe Gen5 슬롯과 달리 이 제품은 싱글 슬롯이라 슬롯 폭에는 여유가 있지만, 241mm 길이가 들어가는 풀 렝스 슬롯인지 확인해야 합니다. 둘째, 보조 전원이 PCIe CEM5 16핀이므로 서버 PSU와 라이저에서 해당 커넥터 또는 변환 케이블이 제공되는지 확인이 필요합니다. 셋째, 액티브 팬 카드이므로 전면에서 후면으로 강제 공랭하도록 설계된 랙 섀시에서는 풍압 간섭과 팬 제어 동작을 서버 제조사의 GPU 검증 목록에서 확인하는 편이 안전합니다. 사용하실 서버 모델을 알려주시면 장착 가능 여부와 필요한 케이블·브래킷을 함께 확인해 드립니다.

24GB 안에 들어오는 모델의 로컬 추론, CAD·CAE 설계, 3D 렌더링, 의료영상 판독처럼 그래픽 출력과 연산이 함께 필요한 업무에 맞습니다. 슬롯을 아껴 카드를 여러 장 꽂아야 하는 렌더 노드나 인코딩 노드에서도 싱글 슬롯 설계가 실질적인 이점이 됩니다. 반대로 24GB를 넘는 모델을 학습하거나 파인튜닝해야 한다면 메모리 용량이 더 큰 상위 RTX PRO 또는 데이터센터 GPU를 검토하는 편이 낫습니다. 전력 예산이 70W로 묶여 있거나 하프 하이트 섀시를 써야 한다면 같은 24GB의 RTX PRO 4000 SFF가, 16GB로 충분하고 더 작은 카드가 필요하다면 RTX PRO 2000이 대안입니다.