베라 루빈(Vera Rubin)이 100% 액체냉각을 택한 3가지 이유

GPU 성능이 올라갈수록 전력 소비와 발열도 함께 커집니다. 고밀도 AI 서버가 모인 환경에서는 차가운 공기를 불어 넣는 기존 공랭 방식만으로 열을 식히기가 점점 어려워지고 있습니다. 그래서 액체로 서버의 열을 직접 빼내는 액체냉각이 대안으로 떠올랐습니다.

NVIDIA의 차세대 AI 플랫폼 베라 루빈(Vera Rubin)도 이 흐름을 따릅니다. GPU뿐 아니라 네트워킹 구성요소까지 액체로 냉각하는 100% 액체냉각 구조로 설계됐습니다.

이 글에서는 AI 데이터센터에서 냉각이 왜 핵심 과제가 됐는지, 냉각 방식은 어떻게 나뉘는지, 그리고 베라 루빈의 냉각 설계가 기존과 무엇이 다른지 차례로 살펴봅니다.

왜 AI 데이터센터에서 냉각이 핵심 과제가 됐나

1. 랙 하나가 쓰는 전력이 크게 늘었다

기존 데이터센터는 랙당 전력 밀도가 비교적 낮다는 전제로 설계됐습니다. AI 서버가 들어오면서 이 전제가 깨졌습니다. 여러 개의 GPU를 한 시스템에 몰아 넣으면서 랙당 전력 소비가 빠르게 늘었기 때문입니다.

NVIDIA Blackwell 기반 시스템은 랙당 약 130kW를 쓰고, Rubin 기반 시스템은 이보다 더 높은 전력 밀도를 요구합니다. 쓰는 전력이 늘어난 만큼 열도 늘어나므로, 이 열을 어떻게 처리하느냐가 인프라 설계의 핵심이 됐습니다.

2. 냉각 자체가 쓰는 전력도 크다

2026 데이터센터 서밋 코리아에서는 랙 전력 밀도가 일정 수준을 넘으면 공기냉각이 비용과 효율 면에서 한계에 부딪힐 수 있다는 의견이 나왔습니다.

냉각 설비가 쓰는 전력도 무시할 수 없습니다. 데이터센터 전체 전력 소비 중 냉각이 차지하는 비중은 최대 40%에 이릅니다. 이제 데이터센터를 설계할 때는 서버가 쓰는 전력과 그 열을 식히는 데 드는 전력을 함께 계산해야 합니다.

데이터센터 냉각 방식 4가지 비교

AI 데이터센터가 직접칩냉각(D2C)에 주목하는 이유

이 가운데 AI 데이터센터에서 가장 주목받는 방식은 직접칩냉각(D2C, Direct-to-Chip)입니다. GPU나 CPU 위에 냉각판(콜드플레이트)을 붙이고 그 안으로 냉각액을 흘려, 칩에서 나는 열을 바로 빼냅니다. 뜨거운 엔진에 선풍기를 쐬는 대신 냉각수 관을 직접 대는 것과 비슷합니다.

물은 공기보다 열을 20배 이상 잘 전달하기 때문에, 발열이 큰 GPU를 빠르게 식히는 데 유리합니다. 다만 직접칩냉각이 서버 안의 모든 열을 액체로 처리하는 것은 아닙니다. 발열이 큰 핵심 칩은 액체로 식히고, 전원공급장치 같은 일부 부품은 팬으로 식히는 하이브리드 구성이 일반적입니다.

베라 루빈이 100% 액체냉각을 택한 3가지 이유

베라 루빈(Vera Rubin)은 Vera CPU와 Rubin GPU를 결합한 NVIDIA의 차세대 AI 플랫폼입니다. 성능만 높아진 것이 아니라, 냉각을 적용하는 범위가 크게 넓어졌다는 점에 주목할 필요가 있습니다.

① 칩 단위에서 랙 단위 냉각으로

일반적인 직접칩냉각은 주요 칩만 액체로 식힙니다. 베라 루빈은 여기서 범위를 넓혀 네트워킹 구성요소까지 액체냉각 대상에 넣었습니다. 여러 고출력 칩에 냉각액을 고르게 보내도록 냉각 루프와 트레이 구조도 함께 설계했습니다.

고밀도 AI 시스템에서는 GPU 말고도 네트워크 부품 등 여러 곳에서 열이 납니다. 일부만 액체로, 나머지는 팬으로 식히는 하이브리드 방식보다 랙 전체의 열을 액체로 관리하는 편이 고밀도 환경에 더 맞다고 판단한 것입니다. 또 NVIDIA에 따르면 베라 루빈은 45°C의 냉각수를 공급해도 운영할 수 있도록 설계되어, 별도 칠러(냉동기) 없이 드라이쿨러로 운영할 수 있습니다.

② 케이블·호스·팬 없는 트레이

(출처: NVIDIA)

베라 루빈(Vera Rubin) NVL72의 컴퓨트 트레이에는 케이블, 냉각 호스, 팬이 없습니다. 이 구조 덕분에 트레이 조립 시간이 몇 시간에서 약 1분으로 줄었습니다.

랙 밀도가 높아질수록 서버를 설치하고 교체하고 정비하는 일도 복잡해집니다. 베라 루빈은 연결 구조를 단순하게 만들어, 시스템을 얼마나 빨리 구축하고 얼마나 효율적으로 유지보수할 수 있는지까지 설계 단계에서 고려했습니다.

③ 냉각·전력·랙을 하나로 설계

랙에 GPU를 더 넣을수록 전력이 더 필요하고, 전력을 더 쓸수록 열이 더 납니다. 그래서 냉각 설비만 키워서는 고밀도 AI 시스템을 안정적으로 운영하기 어렵습니다. 전력을 공급하는 방식, 랙 구조, 냉각 인프라를 설계 단계부터 함께 맞춰야 합니다.

이런 흐름은 다음 세대 AI 인프라에서도 이어질 가능성이 큽니다. 초고밀도 환경으로 갈수록 고전압 전력 분배와 효율적인 냉각 설계가 더 중요해질 것입니다.

AI 데이터센터는 어디로 가나

GPU 전력 밀도가 높아지면 냉각 설비를 늘리는 것만으로는 부족합니다. 전력을 어떻게 안정적으로 공급할지, 랙을 어떤 구조로 짤지도 함께 결정해야 합니다.

앞으로의 AI 데이터센터는 GPU를 먼저 정하고 나머지 인프라를 맞추는 방식에서, GPU·전력·냉각·랙을 처음부터 하나의 시스템으로 설계하는 방식으로 바뀔 것입니다. 새 GPU를 도입하는 것만큼, 그 GPU를 안정적으로 돌릴 인프라를 함께 준비하는 것이 중요합니다.

액체냉각 전환 전 체크리스트

베라 루빈 같은 차세대 AI 시스템 도입을 검토하고 있다면, GPU 성능보다 먼저 지금의 데이터센터가 그 시스템을 받아들일 수 있는지 확인해야 합니다.

• 냉각 방식: 현재 시설의 냉각 방식과 감당할 수 있는 랙당 전력 밀도를 파악하고, 액체냉각으로 언제 전환해야 할지 검토했는가

• 전력 인프라: 기존 전력 분배 구조가 고밀도 AI 시스템의 전력 요구량을 감당할 수 있는가

• 레퍼런스 아키텍처 적합성: 검증된 레퍼런스 아키텍처를 우리 데이터센터에 그대로 적용할 수 있는가, 추가 설계가 필요한가

• 기존 시설 활용: 현재 공랭·RDHx 환경을 일부 개조해서 쓸 수 있는가, 대규모 재설계가 필요한가

씨이랩의 베라 루빈 기반 AI 인프라 구축 지원

AI 데이터센터의 설계 범위가 넓어지면서, 특정 GPU나 서버를 들여오는 것만으로는 운영 가능한 인프라를 갖추기 어려워졌습니다. 어떤 AI 모델과 서비스를 운영할지에 맞춰 시스템 규모를 정하고, GPU·네트워크·스토리지를 구성하고, 전력과 냉각 환경까지 함께 설계해야 합니다.

씨이랩은 NVIDIA 기반 AI 인프라를 중심으로 AI 클러스터의 설계, 구축, 성능 검증, 운영을 지원합니다.

• 베라 루빈 프로페셔널 서비스 팀: 수많은 GPU가 하나의 클러스터로 연결되는 베라 루빈 세대에 맞춰 전담 팀을 구성했습니다. 아키텍처 설계부터 성능 최적화까지 구축과 운영 전반을 지원합니다.

• GPU·네트워크·전력·냉각 통합 설계: 인프라 전체를 하나의 시스템으로 보고 설계합니다.

• AstraGo로 구축 이후 운영: GPU 자원관리 플랫폼 AstraGo로 GPU 자원을 효율적으로 배분하고 관리합니다.

베라 루빈 기반 AI 데이터센터를 준비하고 있다면, 씨이랩과 함께 현재 인프라 환경과 도입할 시스템 규모부터 점검해 보세요. 필요한 클러스터 구성, 구축 환경, 운영 방식까지 단계별로 설계해 드립니다.