NVIDIA
NVIDIA DGX B200
블랙웰 GPU 8장, 1.4TB 메모리 통합 AI 시스템
별도 문의
NVIDIA · AI 슈퍼컴퓨터
NVIDIA DGX B300
블랙웰 울트라 GPU 8장의 10RU 통합 AI 시스템
별도 문의구성·수량에 따라 견적이 달라집니다
GPU 구성Blackwell Ultra ×8총 GPU 메모리2.1TB추론 성능144 PFLOPS스케일아웃800Gb/s ×8포트전력·폼팩터약 14kW / 10RU공급엑스디노드
제품 개요
핵심만 먼저 — 자세한 설명은 아래에서 펼쳐 볼 수 있습니다.
NVIDIA DGX B300은 GPU, CPU, 네트워크 어댑터, 스토리지, 시스템 소프트웨어를 하나의 섀시에 담아 NVIDIA가 완제품으로 출하하는 AI 시스템입니다. HGX 베이스보드를 받아 서버 제조사가 각자 구성하는 방식과 달리, 하드웨어 조합과 펌웨어, OS까지 NVIDIA가 검증한 상태로 공급됩니다. DGX BasePOD와 DGX SuperPOD의 구성 단위이기도 해서, 노드 한 대로 시작해 같은 아키텍처로 클러스터까지 늘리는 경로를 전제로 설계됐습니다. 엑스디노드는 이 제품의 도입 검토, 구성 산정, 설치를 지원합니다.
| GPU 구성 | Blackwell Ultra ×8 — SXM 폼팩터, NVLink Switch System 2기로 연결 |
|---|---|
| 총 GPU 메모리 | 2.1TB — 단일 노드에서 다룰 수 있는 모델 규모를 결정 |
| 추론 성능 | 144 PFLOPS — FP4 희소 기준, 밀집 기준 108 PFLOPS |
| 스케일아웃 | 800Gb/s ×8포트 — ConnectX-8 VPI, InfiniBand 또는 이더넷 |
| 전력·폼팩터 | 약 14kW / 10RU — 공랭, 동작 온도 10~35°C, MGX 랙 호환 |
| 공급 | 엑스디노드 — 구성·수량에 따라 가격 별도 문의 |
개요 전체 읽기
가속기는 NVIDIA Blackwell Ultra SXM GPU 8장입니다. FP4 Tensor Core 기준으로 희소 연산 144 PFLOPS, 밀집 연산 108 PFLOPS이며, FP8 Tensor Core 기준으로는 72 PFLOPS입니다. GPU 8장은 NVLink Switch System 2기로 묶여 14.4TB/s의 총 대역폭을 공유합니다. NVIDIA는 이전 세대 대비 추론 11배, 학습 4배 수준을 제시합니다. 호스트 프로세서는 Intel Xeon 6776P입니다.
총 GPU 메모리는 2.1TB로, 단일 노드에서 올릴 수 있는 모델 크기와 배치 규모를 결정하는 항목입니다. 스케일아웃 네트워크는 OSFP 8포트에 단일 포트 ConnectX-8 VPI 8장이 연결되어 포트당 최대 800Gb/s의 InfiniBand 또는 이더넷을 지원합니다. 여기에 듀얼포트 QSFP112 BlueField-3 DPU 2장이 최대 400Gb/s로 스토리지와 관리 트래픽을 분리합니다. 내장 스토리지는 OS용 1.9TB NVMe M.2 2개와 데이터용 3.84TB NVMe E1.S 8개이고, 관리망은 1GbE 온보드 NIC과 별도의 1GbE RJ45 BMC 포트를 사용합니다.
소비전력은 약 14kW이며 10RU 섀시에 공랭 방식으로 동작합니다. 동작 온도 범위는 10~35°C로, 랙 흡기 온도와 배기 경로를 사전에 확인해야 합니다. 섀시는 NVIDIA MGX 랙과 기존 엔터프라이즈 랙 양쪽에 들어가도록 재설계됐고, 급전 구조는 버스바 방식과 PSU 방식 중에서 선택할 수 있습니다. 랙 한 대에 여러 노드를 넣을 계획이라면 노드 수보다 랙 단위 전력 용량과 냉방 설계를 먼저 확정하는 편이 안전합니다.
자체 인프라에서 대형 모델의 학습과 추론을 상시 운용하고, 이후 노드를 늘려 BasePOD나 SuperPOD로 확장할 계획이 있는 조직에 맞습니다. 포트당 800Gb/s 스케일아웃이 필요 없고 400Gb/s로 충분하다면 DGX B200이 더 무난한 선택이 됩니다. 모델 개발과 프로토타이핑 비중이 크고 상시 대규모 학습 수요가 없다면 데스크톱형 DGX Spark로 개발 단계를 분리하는 구성도 검토할 만합니다. 랙에 14kW를 공급하기 어려운 환경이라면 장비 선정보다 시설 조건을 먼저 정리해야 합니다.
상세 사양
제조사 공식 문서 기준입니다.
가속기 및 성능
| GPU | NVIDIA Blackwell Ultra SXM 8장 |
|---|---|
| 총 GPU 메모리 | 2.1TB (시스템 합산) |
| FP4 Tensor Core 성능 | 144 PFLOPS (희소) / 108 PFLOPS (밀집) |
| FP8 Tensor Core 성능 | 72 PFLOPS (희소 기준) |
| NVLink Switch System | 2기 |
| NVLink 총 대역폭 | 14.4TB/s |
| 세대 간 성능 (NVIDIA 제시) | 이전 세대 대비 추론 11배, 학습 4배 |
네트워킹
| 스케일아웃 포트 | OSFP 8포트, 단일 포트 NVIDIA ConnectX-8 VPI 8장 |
|---|---|
| 스케일아웃 최대 속도 | 포트당 최대 800Gb/s (InfiniBand / 이더넷) |
| DPU | 듀얼포트 QSFP112 NVIDIA BlueField-3 DPU 2장 |
| DPU 최대 속도 | 최대 400Gb/s (InfiniBand / 이더넷) |
| 관리 네트워크 | 1GbE 온보드 NIC (RJ45) |
| BMC | 1GbE RJ45 호스트 baseboard management controller |
호스트·스토리지·물리
| CPU | Intel Xeon 6776P 프로세서 |
|---|---|
| OS 스토리지 | 1.9TB NVMe M.2 2개 |
| 내장 스토리지 | 3.84TB NVMe E1.S 8개 |
| 폼팩터 | 10RU 랙마운트 |
| 냉각 방식 | 공랭 |
| 랙 호환성 | NVIDIA MGX 랙 및 일반 엔터프라이즈 랙 |
| 소비전력 | 약 14kW |
| 급전 구조 | 버스바 방식 / PSU 방식 선택 가능 |
| 동작 온도 | 10°C ~ 35°C |
소프트웨어 및 지원
| 시스템 소프트웨어 | NVIDIA DGX OS |
|---|---|
| 운영·관리 | NVIDIA Mission Control, NVIDIA Base Command Manager |
| AI 소프트웨어 | NVIDIA AI Enterprise |
| 지원 리눅스 배포판 | Red Hat Enterprise Linux / Rocky / Ubuntu |
| 클러스터 확장 | NVIDIA DGX BasePOD, NVIDIA DGX SuperPOD 구성 단위 |
| 지원 | 3년 business-standard 하드웨어·소프트웨어 지원 |
구성 예시와 활용
실제 도입 문의가 많은 방향입니다.
대형 언어모델 학습 및 파인튜닝
2.1TB의 GPU 메모리 풀과 14.4TB/s NVLink 대역폭으로 단일 노드에서 큰 모델을 분할 없이 다루거나 분할 폭을 줄일 수 있습니다. 노드를 추가하면 ConnectX-8 800Gb/s 스케일아웃으로 다중 노드 학습까지 확장됩니다.
추론 서비스 상시 운용
FP4 Tensor Core 기준 144 PFLOPS를 제공해 추론 처리량 중심 워크로드에 대응합니다. BlueField-3 DPU가 스토리지·관리 트래픽을 분리해 GPU 통신 경로와 서비스 트래픽이 서로 영향을 덜 받도록 구성할 수 있습니다.
DGX BasePOD·SuperPOD 확장 기반
단일 노드로 시작해 동일 아키텍처의 클러스터로 확장하는 경로가 정해져 있어, 초기 도입 이후 재설계 부담이 적습니다. Base Command Manager와 Mission Control로 노드 증설 후에도 동일한 운영 도구를 유지합니다.
다중 팀 공용 연구 인프라
Mission Control과 Run:ai 기반 워크로드 오케스트레이션으로 여러 팀이 같은 장비를 나눠 쓰는 운영이 가능합니다. NVIDIA AI Enterprise 스택이 포함되어 프레임워크와 배포 환경을 통일할 수 있습니다.
자주 묻는 질문
구매 담당자가 실제로 묻는 것들입니다.
HGX B300 기반 서버와 DGX B300은 무엇이 다릅니까?
HGX는 GPU 베이스보드 단위로 공급되어 CPU, 네트워크, 스토리지, 섀시를 서버 제조사가 각자 설계합니다. DGX B300은 NVIDIA가 이 구성 전체를 확정해 완제품으로 출하하고 DGX OS, Base Command Manager, Mission Control까지 함께 검증합니다. 구성 자유도가 필요하면 HGX 기반이, 검증된 표준 구성과 단일 지원 창구가 필요하면 DGX가 맞습니다.
설치하려면 전력과 공조를 어느 정도 준비해야 합니까?
시스템 소비전력은 약 14kW이고 10RU를 차지하며 공랭 방식입니다. 동작 온도 범위가 10~35°C이므로 랙 흡기 온도와 배기 경로 확보가 전제 조건입니다. 급전은 버스바와 PSU 중 선택할 수 있어 기존 랙 전력 구조에 맞춰 결정하면 됩니다. 랙당 전력 용량과 바닥 하중, 냉방 여유를 함께 확인해야 하므로 현장 조건을 알려주시면 엑스디노드에서 검토해 드립니다.
DGX B200 대신 B300을 선택할 이유는 무엇입니까?
GPU가 Blackwell에서 Blackwell Ultra로 바뀌고 총 GPU 메모리가 1,440GB에서 2.1TB로 늘어납니다. 스케일아웃 네트워크도 ConnectX-7 400Gb/s에서 ConnectX-8 800Gb/s로 올라가 다중 노드 구성에서 차이가 커집니다. 단일 노드로 운용하고 400Gb/s 네트워크로 충분하다면 B200으로도 요구를 맞출 수 있습니다.
여러 대를 묶어 클러스터로 운용할 수 있습니까?
가능합니다. DGX B300은 DGX BasePOD와 DGX SuperPOD의 구성 단위로 설계되어 노드를 추가하며 확장하는 것을 전제로 합니다. 다만 노드 외에 InfiniBand 스위치, 공유 스토리지, 관리망 설계가 함께 필요하므로 목표 규모를 먼저 정한 뒤 전체 구성을 잡는 순서가 좋습니다.
포함되는 소프트웨어와 지원 조건은 어떻게 됩니까?
NVIDIA DGX OS, NVIDIA Base Command Manager, NVIDIA Mission Control, NVIDIA AI Enterprise가 소프트웨어 스택에 포함되며 Red Hat Enterprise Linux, Rocky, Ubuntu를 지원합니다. 하드웨어와 소프트웨어 지원은 3년 business-standard 기준입니다. 지원 기간 연장이나 등급 상향은 별도 협의 사항입니다.
가격은 얼마입니까?
구성, 수량, 네트워크 스위치와 스토리지 포함 범위, 설치 및 유지보수 조건에 따라 달라져 별도 문의로 안내합니다. 도입 규모와 설치 환경을 알려주시면 엑스디노드에서 구성안과 함께 회신드립니다.
함께 검토하는 제품
같은 분류에서 자주 비교됩니다.
