NVIDIA RTX 4090

AD102 GPU에 CUDA 코어 16,384개를 탑재합니다. NVIDIA 공식 사양표 기준 셰이더 성능은 83 TFLOPS, 3세대 RT 코어 성능은 191 TFLOPS, 4세대 Tensor 코어 성능은 1,321 AI TOPS로 표기됩니다. 베이스 클럭은 2.23GHz, 부스트 클럭은 2.52GHz입니다. 4세대 Tensor 코어는 FP8 정밀도를 지원해 이전 세대 대비 추론 처리량을 높일 수 있는데, NVIDIA는 E4M3과 E5M2 두 형식을 지원한다고 설명합니다. FP4는 Blackwell 세대에서 도입된 정밀도로 이 카드에는 없습니다.

메모리는 24GB GDDR6X를 384비트 인터페이스에 연결합니다. 24GB는 중형 모델 파인튜닝이나 고해상도 GPU 렌더링에 실질적으로 쓸 수 있는 용량이지만, GeForce 사양표에는 ECC 항목이 없다는 점을 함께 고려해야 합니다. 장시간 무중단 연산에서 메모리 비트 오류에 대한 보호가 요건이라면 ECC를 명시적으로 지원하는 프로페셔널 라인업이 맞습니다. 또한 RTX 4090은 NVLink를 지원하지 않으므로 여러 장을 장착해도 GPU 간 통신은 PCI Express Gen4 경로에 묶이고 메모리는 합산되지 않습니다. 미디어 엔진 측면에서는 8세대 NVENC 인코더 2개와 5세대 NVDEC 디코더를 갖추고 AV1 인코드와 디코드를 모두 지원해, AV1 디코드만 지원하는 Ampere 프로 라인업과 구분됩니다.

총 그래픽 전력(TGP)은 450W이고 NVIDIA가 안내하는 권장 시스템 전원은 850W입니다. 전원 커넥터는 PCIe 8핀 3개(어댑터 동봉) 또는 450W 이상 PCIe Gen5 케이블을 사용합니다. 파운더스 에디션 기준 크기는 길이 304mm, 폭 137mm, 3슬롯(61mm)이며 최대 GPU 온도는 90°C입니다. 3슬롯 폭과 137mm 높이는 일반 워크스테이션 케이스에서도 간섭이 발생하는 수준이므로, 기존 장비에 증설할 때는 카드 규격과 케이스 내부 여유 공간을 먼저 실측해야 합니다. 보드파트너 모델에 따라 길이와 두께가 파운더스 에디션보다 더 커지는 경우가 많다는 점도 감안이 필요합니다.

서버 장착 관점에서 RTX 4090은 세 제품 중 제약이 가장 큽니다. 3슬롯(61mm) 폭과 길이 304mm, 폭 137mm 규격은 표준 랙 서버의 PCIe 라이저 케이지에 물리적으로 들어가지 않는 경우가 많습니다. 엑스디노드가 취급하는 MSI·GIGABYTE·Advantech 서버 중에서도 GPU 확장을 전제로 설계된 4U 이상 타워형 또는 랙형 모델, 즉 3슬롯 이상 폭과 320mm 이상 카드 길이를 수용하는 섀시를 골라야 합니다. 450W TGP는 600W급 카드가 요구하는 수준까지는 아니지만 PCIe Gen5 전원 케이블 또는 8핀 3개 경로를 안정적으로 공급할 수 있어야 하며, 대다수 모델이 개방형 축류팬 쿨러를 쓰기 때문에 랙 서버의 전면에서 후면으로 향하는 직진 기류와 맞지 않습니다. 여러 장을 밀집 장착하는 구성을 전제한다면 패시브 냉각을 전제로 설계된 데이터센터 GPU나 블로워형 카드를 함께 비교하는 편이 안전합니다.

도입 검토 시 라이선스 조건도 함께 확인해야 합니다. NVIDIA GeForce 드라이버 사용권 계약에는 데이터센터 배포를 제한하는 조항이 포함되어 있어, 사내 워크스테이션이나 연구·개발 장비로 사용하는 것과 상용 데이터센터에서 서비스 자원으로 운영하는 것은 라이선스 관점에서 성격이 다릅니다. 데이터센터 운영을 전제한 도입이라면 계약 시점의 EULA 원문을 확인하고 RTX 프로페셔널 또는 데이터센터 GPU를 함께 비교해야 합니다. 정리하면 RTX 4090은 단일 노드에서 연산 처리량과 24GB 메모리를 확보하려는 개발·렌더링 장비에 맞고, ECC나 vGPU, 다중 GPU 메모리 합산, 랙 서버 밀집 장착, 데이터센터 운영이 요건에 포함된다면 RTX A6000이나 데이터센터 GPU 쪽이 적합합니다.