DGX Rubin NVL8 핵심 스펙과 도입 포인트

씨이랩이 약 28억 원 규모의 엔비디아 AI 제품 공급계약을 맺었습니다. 공급 품목은 NVIDIA DGX Rubin NVL8과 NVIDIA AI Enterprise이며, 2027년 4월 말까지 공급할 예정입니다.

DGX Rubin NVL8은 엔비디아의 차세대 아키텍처 루빈(Rubin)을 기반으로 한 랙 스케일 상용 시스템입니다. NVIDIA 공식 데이터시트를 기준으로 사양과 성능, 활용 환경, 도입 시 고려할 점을 정리했습니다.

NVIDIA DGX 플랫폼이란

NVIDIA DGX는 엔터프라이즈 AI를 위한 통합 컴퓨팅 플랫폼입니다. GPU와 CPU를 중심으로 네트워킹, 스토리지, 소프트웨어를 검증된 아키텍처로 묶어, 기업이 인프라를 직접 조합하고 최적화하는 데 드는 리소스를 줄여 줍니다.

엔비디아는 DGX-1부터 DGX-2, DGX A100까지 시스템을 고도화해 왔고, 지금은 DGX BasePOD와 DGX SuperPOD 같은 레퍼런스 아키텍처로 플랫폼을 넓혔습니다. 단일 시스템부터 수천 개의 GPU로 확장하는 대규모 인프라까지 목적에 맞게 구축할 수 있습니다.

DGX Rubin NVL8은 어떤 시스템인가

(출처: NVIDIA 공식 홈페이지)

DGX Rubin NVL8은 Rubin GPU 8개를 탑재한 엔터프라이즈용 턴키 AI 시스템으로, 엔비디아는 이를 에이전틱 AI를 위한 인프라로 소개합니다.

에이전틱 AI는 여러 AI 에이전트가 역할을 나눠 맡고 서로 결과를 주고받으며 일을 끝내는 방식입니다. 한 추론의 결과가 다음 추론의 입력이 되기 때문에 모델 간 통신이 많고, GPU 간 데이터 이동이 느리면 연산 성능이 충분해도 다른 에이전트의 결과를 기다리느라 전체 속도가 떨어집니다. DGX Rubin NVL8은 8개 GPU를 6세대 NVLink로 연결해 이 병목을 줄이고 처리 속도를 높였습니다.

핵심 스펙

8개의 Rubin GPU는 6세대 NVLink로 연결돼, 각자 따로 움직이는 대신 하나의 큰 AI 작업을 나눠 처리하며 데이터를 빠르게 주고받습니다.

연산 성능은 NVFP4 기준 AI 추론 최대 400 PFLOPS, AI 학습 280 PFLOPS이며, FP8·FP6 기준 학습 성능은 최대 140 PFLOPS입니다.

GPU 메모리는 시스템 전체 2.3TB입니다. 대규모 언어 모델처럼 모델 자체가 큰 워크로드에서는 가중치와 추론·학습에 필요한 데이터를 GPU 메모리에 함께 올려야 하기 때문에, 연산 성능만큼 메모리 용량과 대역폭이 중요합니다.

DGX Rubin NVL8은 GPU 성능만 높인 것이 아니라 차세대 GPU, GPU 간 연결, 메모리, 소프트웨어를 하나의 시스템으로 통합해 대규모 AI 워크로드를 안정적으로 운영할 수 있게 합니다.

어떤 환경에 적합할까

- 대규모 모델 학습과 파인튜닝

대규모 모델을 학습하거나 파인튜닝할 때는 GPU 하나로 모든 연산을 처리하기 어려워 모델과 데이터를 여러 GPU에 나눠야 합니다. GPU가 많을수록 결과를 서로 교환하는 과정도 늘어나기 때문에 GPU 간 통신 성능이 학습 효율을 좌우합니다. DGX Rubin NVL8은 8개 GPU를 하나의 시스템으로 묶어, GPU 하나로는 다루기 어려운 모델도 분산해 학습하고 추론할 수 있습니다.

- 대규모 AI 추론 서비스

생성형 AI 서비스는 사용자가 늘수록 응답 속도와 동시 처리량이 품질을 결정합니다. 기업용 AI 챗봇, 코드 생성, RAG 기반 서비스처럼 여러 요청을 동시에 처리해야 하는 경우 GPU 연산 성능과 함께 대형 모델을 담을 메모리, 여러 작업을 동시에 돌릴 시스템 성능이 필요합니다. DGX Rubin NVL8은 높은 저정밀도 연산 성능과 8개 GPU 구성으로, 많은 사용자를 상대하는 생성형 AI 서비스를 직접 운영하려는 기업에 필요한 자원을 제공합니다.

도입 전 고려해야 할 3가지

1. 워크로드에 맞는 시스템 규모

같은 생성형 AI라도 자체 모델 학습인지, 기존 모델 파인튜닝인지, 대규모 추론 서비스인지에 따라 필요한 GPU 성능과 메모리, GPU 수가 달라집니다. 수십 명이 쓰는 사내 서비스와 수천 명이 동시에 접속하는 서비스도 필요한 규모가 다릅니다. 모델 규모와 예상 사용량을 기준으로 인프라를 산정해야 합니다.

2. 전력과 냉각 환경

DGX Rubin NVL8은 단일 시스템 기준 최대 24kW를 쓰는 액체냉각 시스템입니다. 좁은 공간에 높은 성능을 집적한 만큼, 데이터센터나 서버실이 이 전력을 안정적으로 공급할 수 있는지, 액체냉각 설비가 갖춰져 있는지, 기존 환경에 시스템을 추가할 수 있는지 미리 확인해야 합니다.

3. 향후 확장 계획

지금 필요한 GPU 수만 보고 도입하면 서비스가 커졌을 때 인프라를 다시 설계해야 할 수 있습니다. 특히 생성형 AI 서비스를 직접 운영한다면 사용자가 늘수록 추론 인프라 확장이 필요해집니다. 몇 대까지 늘릴지, 늘어났을 때 네트워크와 스토리지를 어떻게 구성할지 도입 단계부터 함께 고려하는 것이 좋습니다.

GPU 공급부터 AIDC 구축까지, 씨이랩

고성능 AI 시스템은 도입으로 끝나지 않습니다. 운영할 모델과 서비스에 맞춰 시스템 규모를 산정하고, GPU·네트워크·스토리지를 구성하고, 전력 시설과 액체냉각 환경까지 함께 갖춰야 실제 AI 인프라가 됩니다.

씨이랩은 GPU 공급과 함께 고객 환경에 맞는 인프라 설계와 구축을 지원합니다. NVIDIA Vera Rubin 레퍼런스 아키텍처를 설계하는 솔루션 아키텍트, HPC 성능 튜닝 전문가, GPU 오케스트레이션 개발자로 구성된 전문 인력이 Rubin 기반 AI 데이터센터의 설계부터 구축, 운영까지 함께합니다. 최근에는 황순욱 전 한국과학기술정보연구원(KISTI) 국가슈퍼컴퓨팅본부장을 영입해, 대규모 HPC 인프라 설계·운영 경험을 AI 데이터센터 구축에 더했습니다.

엔비디아와 오랫동안 쌓아 온 디지털 트윈 설계 경험도 활용합니다. 실제 장비를 설치하기 전에 가상 환경에서 전력과 냉각 등 데이터센터 인프라를 검토해, 고객 환경에 맞는 설계를 미리 확정하고 구축 과정의 시행착오를 줄입니다.

NVIDIA Rubin 기반 차세대 AI 인프라를 검토하고 있다면, 제품 도입부터 설계와 구축까지 씨이랩과 함께해 보세요.