10.2kWH200 — 서버 1대(GPU 8개)
132kW블랙웰 GB200 NVL72 — 랙
200㎾급베라루빈 NVL72 — 랙
엔비디아 데이터센터 GPU는 호퍼(H100·H200)에서 블랙웰(B200·B300·GB200)을 거쳐 루빈으로 넘어왔다. 세대가 바뀌면서 달라진 것은 칩 성능만이 아니다. 전력을 세는 단위가 서버에서 랙으로 바뀌었다.
H200 — 전력 사양이 서버 1대 기준으로 나온다
엔비디아 DGX H200 데이터시트에 적힌 시스템 전력은 최대 10.2kW다. H200 GPU 8개가 들어간 서버 1대 기준이다. 맞춤 냉각 구성(CTS)은 최대 14.3kW까지 지원한다. 이 세대의 랙 전력은 한 랙에 서버를 몇 대 넣느냐에 따라 정해진다.
블랙웰 GB200 NVL72 — 랙 하나가 한 시스템이 됐다
GB200 NVL72는 GPU 72개를 랙 하나에 묶어 하나의 시스템으로 쓴다. 버티브는 2024년 10월 엔비디아와 함께 만든 7MW 규모 참조 설계를 공개하며 이 설계가 GB200 NVL72 랙당 최대 132kW를 지원한다고 밝혔다. 냉각은 액체 냉각과 공기 냉각을 함께 쓰는 하이브리드 방식이다.
베라루빈 NVL72 — 랙당 200㎾급, 직접 액체 냉각
- 구성 — 루빈 GPU 72개 · 베라 CPU 36개. 엔비디아는 3세대 MGX NVL72 랙 설계를 써서 이전 세대에서 넘어오기 쉽게 했다고 밝혔다
- 전력 — 머니투데이 9월 7일 보도에 따르면 랙 1대가 200㎾급 전력을 쓴다. 트렌드포스 6월 자료에는 약 225kW, 궈밍치 애널리스트의 1월 공급망 조사에는 전력 구성에 따라 약 190kW(Max Q)·230kW(Max P)로 적혀 있어 자료에 따라 값이 다르다
- 냉각 — 슈퍼마이크로는 9월 23일 베라루빈 플랫폼이 직접 액체 냉각 기술과 함께 설계됐다고 밝혔다. 엔비디아는 냉각수 입구 온도 45℃ 설계로 냉동기 없는 건식 냉각 운전이 가능하다고 밝혔다
- 효율 — 엔비디아는 베라루빈 NVL72가 GB200 NVL72보다 MW당 토큰을 최대 10배 더 낸다고 밝혔다
GPU 1장의 연산 성능도 커졌다
전자신문 6월 8일 보도는 엔비디아가 밝힌 GPU 1장의 연산 성능을 베라루빈 35페타플롭스(PF), B300 13.5PF, B200 9PF로 전했다.
엔비디아가 쓰는 단위는 이제 AI 팩토리다
서브더홈(ServeTheHome)은 8월 핫칩스 2026 발표를 정리하며 엔비디아가 GPU 1장이나 서버 1대가 아니라 100MW 규모 AI 팩토리를 단위로 성능을 말하고 있다고 짚었다.
→ 전력을 보는 단위가 서버 1대(10.2kW)에서 랙 1대(132kW → 200㎾급)로 올라갔다. 상면을 볼 때도 「몇 랙이 들어가나」보다 「랙당 몇 kW까지 받나」가 먼저다.
확인해야 할 것
- 상면이 랙당 몇 kW까지 공급하도록 설계됐는지
- 직접 액체 냉각(콜드플레이트·CDU) 배관이 있는지
- 블랙웰용으로 지은 시설이면 베라루빈으로 넘어갈 때 전력·냉각을 얼마나 늘려야 하는지
- 바닥 하중과 반입 경로가 무거운 액체 냉각 랙을 받을 수 있는지
확인된 사실
- 엔비디아 DGX H200의 시스템 전력은 최대 10.2kW다(데이터시트, 서버 1대 기준)
- 버티브·엔비디아 참조 설계는 GB200 NVL72 랙당 최대 132kW를 지원한다(2024년 10월)
- 엔비디아는 베라루빈 NVL72가 GB200 NVL72보다 MW당 토큰을 최대 10배 낸다고 밝혔다
이 주제로 검토 중이시라면
- 규모 (MW)
- 지금 단계
- 확인하고 싶은 것
출처
- NVIDIA · DGX H200 데이터시트NVIDIA DGX H200 Datasheet ↗H200 GPU 8개짜리 서버 1대 기준 최대 10.2kW · 맞춤 냉각 구성(CTS)은 최대 14.3kW · 영문 원문
- Vertiv2024.10.17Vertiv codevelops with NVIDIA complete power and cooling blueprint for NVIDIA GB200 NVL72 platform ↗버티브·엔비디아 공동 7MW 참조 설계 · GB200 NVL72 랙당 최대 132kW · 액체+공기 하이브리드 냉각 · 영문 원문
- NVIDIA2026.09Vera Rubin NVL72 공식 사양 ↗루빈 GPU 72 · 베라 CPU 36 · 3세대 MGX NVL72 랙 설계 · GB200 NVL72 대비 MW당 토큰 최대 10배 · 영문 원문
- 궈밍치(Ming-Chi Kuo) · Threads2026.01.05Key Updates on NVIDIA Vera Rubin/VR200 NVL72 ↗VR200 NVL144 → NVL72로 명칭 변경 · 전력 구성 2가지 — Max Q 약 190kW · Max P 약 230kW(랙 기준, Investing.com 1월 6일 보도) · GB300 NVL72는 140kW · 영문 원문
- TrendForce2026.06.25800V 전력 랙, 베라 루빈에 옵션으로 도입 ↗800V 전력 랙은 베라루빈에 선택 구성 · 현재 VR200 랙 약 225kW(GB300 약 150kW) · Rubin Ultra 랙 약 660kW 전망 · 영문 원문
- 머니투데이2026.09.07일반 랙의 20배 전기 먹는 베라루빈…"받을 준비"가 관건 ↗랙 1대 200㎾급 · 파주 AIDC 수전 200㎿ · 바닥 하중 ㎡당 2톤
- Supermicro · PR Newswire2026.09.23Supermicro Now Shipping NVIDIA Vera Rubin NVL72 Racks ↗베라 루빈 NVL72 랙 출하 시작 · 랙당 루빈 GPU 72 · 베라 CPU 36 · CDU 1.8MW · 영문 원문
- NVIDIA Blog2026.07.21NVIDIA Vera Rubin Driving Performance Per Watt, Lower Token Costs for Partners Worldwide ↗45℃ 냉각수 입구 온도 · 냉동기 없는 건식 냉각 · 트레이 조립 시간 단축 · 영문 원문
- ServeTheHome2026.08.25NVIDIA Vera Rubin NVL72 Rack at Hot Chips 2026 ↗핫칩스 2026 발표 정리 · 45C 액체 냉각 · 800 VDC · 학습 시 피크 전력 13% 절감 · 영문 원문
- 전자신문2026.06.08정부, 초당 '3경 5000조번 연산' 베라루빈 등 GPU 1만장 공급 ↗첨단 GPU 확보 사업 2조800억원 · 네이버클라우드·삼성SDS·엘리스그룹 선정 · 베라루빈 2016장 · 베라루빈 서비스는 2027년 상반기 내