
NVIDIA
NVIDIA RTX PRO 6000 Blackwell Server Edition
패시브 냉각 96GB 데이터센터 GPU

48GB GDDR7, 1.3TB/s 대역폭 300W 카드
핵심만 먼저 — 자세한 설명은 아래에서 펼쳐 볼 수 있습니다.
NVIDIA RTX PRO 5000 Blackwell은 Blackwell 세대 RTX PRO 라인업의 중상위 모델로, 96GB·600W의 RTX PRO 6000 아래, 32GB·200W의 RTX PRO 4500 위에 놓인다. 전 세대 대비 메모리를 두 배로 늘려 48GB GDDR7을 싣고, 총 보드 전력은 300W에 맞춘 이중 슬롯 풀하이트 카드다. AI 개발과 LLM 추론, 대형 3D 모델링, 영상 제작을 한 대의 시스템에서 병행하도록 설계된 제품군에 속한다. 같은 연산 구성에 메모리만 72GB로 늘린 파생 모델(RTX PRO 5000 72GB)이 별도로 있어 용량 기준으로 두 모델을 나눠 선택하게 된다. 국내 공급과 서버 동시 구성 문의는 엑스디노드에서 받는다.
| 메모리 | 48GB GDDR7 ECC — 384-bit, 1,344GB/s |
|---|---|
| CUDA 코어 | 14,080개 — Blackwell, 5세대 텐서·4세대 RT |
| 연산 성능 | FP32 65 TFLOPS — RT 196 TFLOPS, 2,064 AI TOPS |
| 전력 | 300W — PCIe CEM5 16핀 1개 |
| 폼팩터 | 이중 슬롯 FHFL — 4.4" x 10.5", 액티브 블로워 |
| MIG | 최대 2분할 — 24GB x 2 또는 48GB x 1 |
연산 구성은 CUDA 코어 14,080개, 5세대 텐서 코어, 4세대 RT 코어다. 부스트 클럭 기준 단정밀도(FP32) 성능은 65 TFLOPS, RT 코어 성능은 196 TFLOPS이며 AI 성능은 FP4·희소성 적용 유효치로 2,064 AI TOPS로 표기된다. 5세대 텐서 코어가 FP4 데이터 포맷을 지원해 생성형 AI 워크로드에서 메모리 요구량을 낮출 수 있고, 4세대 RT 코어는 전 세대 대비 광선-삼각형 교차 처리율이 두 배로 표기된다. 영상 처리에는 9세대 NVENC 3기와 6세대 NVDEC 3기가 배정되어 4:2:2 색상 포맷과 다중 스트림 작업을 처리한다.
메모리는 GDDR7 48GB에 ECC를 지원하며, 384-bit 인터페이스에서 1,344GB/s 대역폭이 나온다. GDDR7의 ECC는 별도 용량 오버헤드 없이 동작한다는 점이 데이터센터형 구성에서 실무적 이점이 된다. MIG를 지원해 최대 1x 48GB 또는 2x 24GB 인스턴스로 나눌 수 있으므로, 한 장을 두 사용자나 두 작업으로 격리해 배분할 수 있다. 시스템 인터페이스는 PCIe 5.0 x16이고 NVIDIA 공식 사양표에 NVLink 항목이 없어, 다중 GPU 구성은 PCIe 경유 통신을 전제로 설계해야 한다. DisplayPort 2.1b 출력 4개를 갖춰 8K 240Hz·16K 60Hz까지의 디스플레이 연결이 사양상 명시된다.
총 보드 전력은 300W이고 보조 전원은 PCIe CEM5 16핀 커넥터 1개를 쓴다. 냉각은 블로워 팬을 사용하는 액티브 방식이며, 카드 크기는 높이 4.4인치, 길이 10.5인치, 이중 슬롯 풀하이트다. 600W급 RTX PRO 6000이 5.4인치 높이에 12.0인치 길이를 요구하는 것과 비교하면 슬롯 폭은 같은 이중 슬롯이지만 길이와 전력 부담이 절반 수준이다. 설치 시에는 이중폭 슬롯 공간, 16핀 케이블, 그리고 카드 전면 흡기 경로 확보가 함께 필요하다.
장착 대상 서버는 이중폭 FHFL PCIe Gen5 x16 슬롯을 제공하고 슬롯당 300W를 안정적으로 공급하는 기종이어야 한다. 엑스디노드가 취급하는 MSI·GIGABYTE·Advantech 서버 가운데 GPU 확장을 전제로 한 기종이 대상이며, 600W급 RTX PRO 6000용으로 검증된 섀시라면 이 카드는 전력·발열 여유를 두고 여러 장을 배치할 수 있다. 다만 이 카드는 액티브 블로워 방식이라 패시브 서버 GPU 기준으로 팬 커브가 맞춰진 섀시에서는 냉각 검증이 필요하다. RTX PRO 5000 계열에는 패시브 서버 에디션 모델이 없다는 점도 랙 밀집 구성에서는 고려 요소다. 섀시별 최대 장착 수량과 전원 여유는 구성마다 달라 엑스디노드에서 사전 검토 후 안내한다.
48GB 안에 들어오는 모델과 데이터셋을 다루는 조직, 즉 30B급 이하 모델의 추론·파인튜닝, 중대형 3D 씬 렌더링, 다중 스트림 영상 제작을 겸하는 팀에 맞는 위치다. 카드 한 장이 커버할 수 있는 범위를 넘어 GPU 간 통신이 잦은 대규모 분산 학습이라면 NVLink와 HBM을 갖춘 데이터센터 GPU가 더 맞다. 모델이 48GB를 넘기기 시작했다면 연산 성능이 동일한 RTX PRO 5000 72GB로, 96GB가 필요하다면 RTX PRO 6000으로 올라가는 편이 낫다. 반대로 CAD·DCC 뷰포트 작업이 주력이고 랙 전력이 빠듯하다면 200W의 RTX PRO 4500이 더 합리적인 선택이 된다.
제조사 공식 문서 기준입니다.
| 메모리 용량 | 48GB |
|---|---|
| 메모리 종류 | GDDR7 (ECC 지원) |
| 메모리 인터페이스 | 384-bit |
| 메모리 대역폭 | 1,344GB/s |
| MIG 인스턴스 | 최대 1x 48GB 또는 2x 24GB |
| GPU 아키텍처 | NVIDIA Blackwell |
|---|---|
| CUDA 코어 | 14,080개 |
| 텐서 코어 | 5세대 / 440개 (코어 수는 보드 파트너 사양표 기준) |
| RT 코어 | 4세대 / 110개 (코어 수는 보드 파트너 사양표 기준) |
| 단정밀도(FP32) 성능 | 65 TFLOPS (부스트 클럭 기준) |
| RT 코어 성능 | 196 TFLOPS (부스트 클럭 기준) |
| AI 성능 | 2,064 AI TOPS (FP4·희소성 적용 유효치) |
| 지원 정밀도 | FP4 지원 명시 (5세대 텐서 코어) |
| 시스템 인터페이스 | PCIe 5.0 x16 |
|---|---|
| 총 보드 전력(TDP) | 300W |
| 보조 전원 커넥터 | PCIe CEM5 16핀 1개 |
| NVLink | NVIDIA 공식 사양표에 항목 없음 — 다중 GPU는 PCIe 5.0 x16 경유 |
| 디스플레이 출력 | DisplayPort 2.1b 4개 |
| MIG(멀티 인스턴스 GPU) | 지원 (최대 2분할) |
| 카드 크기 | 4.4인치(H) x 10.5인치(L) |
|---|---|
| 슬롯 폭 | 이중 슬롯(dual slot) |
| 브래킷 | 풀 하이트(full height) |
| 냉각 방식 | 액티브 (블로워 팬) |
| 필요 슬롯 | 이중폭 FHFL PCIe Gen5 x16 |
| 디스플레이 커넥터 | DisplayPort 2.1b 4개 |
|---|---|
| 최대 동시 디스플레이 | 4x 3,840x2,160 @165Hz / 2x 7,680x4,320 @100Hz |
| 인코더 | NVENC 9세대 3기 (4:2:2 지원) |
| 디코더 | NVDEC 6세대 3기 (4:2:2 지원) |
| 그래픽 API | DirectX 12, Shader Model 6.6, OpenGL 4.6, Vulkan 1.3 |
| 컴퓨트 API | CUDA 11.6, OpenCL 3.0, DirectCompute (2025년 3월판 데이터시트 표기) |
실제 도입 문의가 많은 방향입니다.
48GB 단일 메모리 공간에 양자화된 중대형 모델과 KV 캐시를 올려 사내 추론 엔드포인트를 구성할 수 있습니다. FP4를 지원하는 5세대 텐서 코어로 메모리 요구량을 낮추면 동시 요청 처리 여유가 늘어납니다. 1,344GB/s 대역폭은 토큰 생성처럼 메모리 대역폭이 지배하는 구간에서 직접적으로 작용합니다.
사내 데이터로 도메인 특화 모델을 조정하거나 RAG 파이프라인을 반복 검증하는 개발 환경에 적합합니다. 클러스터 예약 없이 팀이 상시 점유할 수 있어 실험 주기가 짧아집니다. MIG로 24GB씩 두 인스턴스로 나누면 두 명이 서로 간섭 없이 같은 카드를 사용할 수 있습니다.
대형 어셈블리와 고해상도 텍스처를 GPU 메모리에 적재해야 하는 제품 설계, 건축 시각화, 영화·광고 렌더링에 씁니다. 4세대 RT 코어 기준 196 TFLOPS의 레이트레이싱 성능과 DLSS 4 지원으로 뷰포트 반응성과 최종 렌더 시간을 함께 다룰 수 있습니다. DisplayPort 2.1b 4개로 다중 모니터 작업 환경도 그대로 구성됩니다.
9세대 NVENC 3기와 6세대 NVDEC 3기가 4:2:2 색상 포맷을 지원해 고해상도 다중 스트림 편집과 인코딩을 병렬로 처리합니다. 편집 타임라인 재생과 백그라운드 렌더를 동시에 돌리는 포스트프로덕션 워크플로에 맞습니다. 트랜스코딩 노드로 쓸 경우 카드 한 장이 처리하는 동시 스트림 수를 늘릴 수 있습니다.
구매 담당자가 실제로 묻는 것들입니다.
두 모델은 CUDA 코어 14,080개, 1,344GB/s 대역боль폭, 300W TDP, 이중 슬롯 폼팩터가 동일하고 메모리 용량만 다릅니다. 즉 연산 성능이 아니라 '48GB 안에 모델과 캐시가 들어오는가'가 판단 기준입니다. 48GB로 충분하면 이 모델이, 용량 초과로 카드를 나눠야 하는 상황이면 72GB 모델이 맞습니다.
섀시가 제공하는 이중폭 FHFL PCIe Gen5 x16 슬롯 수와 슬롯당 공급 전력, 파워서플라이 용량에 따라 결정됩니다. 카드 한 장당 300W와 16핀 보조 전원 1개가 필요하므로 전원 커넥터 수도 함께 확인해야 합니다. 엑스디노드에서 취급하는 MSI·GIGABYTE·Advantech 서버 기준으로 검토해 드리니 대상 모델을 알려 주시면 됩니다.
NVIDIA 공식 데이터시트 사양표에 NVLink 항목이 없습니다. 여러 장을 장착하더라도 카드 간 통신은 PCIe 5.0 x16 경유가 됩니다. 메모리를 하나로 합치는 구성이 필요한 워크로드라면 데이터센터용 GPU 계열을 검토하시는 편이 맞습니다.
최대 1x 48GB 또는 2x 24GB 인스턴스 구성이 가능합니다. 각 인스턴스는 자체 자원과 격리를 갖기 때문에 사용자별·프로젝트별로 분리 배분할 수 있습니다. 3분할 이상은 사양표에 표기되어 있지 않습니다.
DisplayPort 2.1b 출력 4개가 있는 워크스테이션 폼팩터 카드이지만, PCIe 5.0 x16 슬롯 조건만 맞으면 GPU 서버에도 장착할 수 있습니다. 다만 액티브 블로워 냉각이라 패시브 GPU 기준으로 팬 구성이 잡힌 섀시에서는 냉각 검증이 필요합니다. RTX PRO 5000 계열에는 패시브 서버 에디션이 없다는 점도 함께 감안하시면 됩니다.
엑스디노드는 GPU 단품 여부, 서버 동시 구성, 수량, 유지보수 조건에 따라 견적이 달라져 전 제품 별도 문의로 안내합니다. 장착 대상 서버와 필요 수량을 알려 주시면 슬롯·전력 검토를 포함한 구성안으로 회신드립니다.
같은 분류에서 자주 비교됩니다.

NVIDIA
패시브 냉각 96GB 데이터센터 GPU

NVIDIA
600W 96GB 워크스테이션 플래그십

NVIDIA
300W로 낮춘 96GB 다중 장착형

NVIDIA
72GB 단일 GPU, 300W 이중폭 Gen5 카드