AI 개발용 워크스테이션 추천 | NVIDIA·ASUS·Dell 주요 스펙 비교

AI 모델을 직접 개발하고 실행하기 위해선 GPU 연산 성능뿐 아니라 모델을 구동할 수 있는 메모리와 소프트웨어 환경도 필요합니다. 그렇다고 모든 AI 개발 작업에 대규모 서버가 필요한 건 아닙니다. 모델의 크기와 작업 방식에 따라 데스크톱 크기의 AI 워크스테이션으로도 개발 환경을 마련할 수 있는데요.

최근에는 소형 시스템에서도 대규모 AI 모델을 실행할 수 있도록 높은 연산 성능과 메모리를 갖춘 제품들이 출시되고 있습니다. NVIDIA의 GB10 Grace Blackwell 슈퍼칩을 탑재한 DGX Spark가 그중 하나입니다. ASUS Ascent GX10과 Dell Pro Max with GB10도 같은 칩을 기반으로 개발됐죠.

세 제품 모두 기본적인 연산 사양이 비슷하지만, 메모리와 스토리지 구성, 제조사별 지원 조건에는 차이가 있습니다. 이번 콘텐츠에서는 세 제품의 주요 사양을 비교하고, AI 개발용 워크스테이션을 선택할 때 어떤 부분을 살펴봐야 하는지 알아보겠습니다.

AI 워크스테이션, 어떤 작업에 필요할까요?

AI 워크스테이션은 GPU 연산이 필요한 AI 모델 개발과 추론 작업을 위해 설계된 고성능 컴퓨팅 시스템입니다. 개발자가 별도의 대규모 서버 없이도 자신의 작업 환경에서 AI 모델을 실행하고 성능을 테스트할 수 있도록 연산 자원과 메모리를 갖추고 있죠.

AI 워크스테이션을 활용하면 기존 언어 모델을 기업 내부 데이터에 맞게 파인튜닝하거나, 생성형 AI 서비스를 개발하면서 모델의 응답을 테스트할 수 있는데요. 클라우드 사용이 제한된 환경이라면 데이터를 외부로 전송하지 않고 내부 장비에서 개발을 진행할 수도 있습니다.

다만, AI 워크스테이션이라고 해서 모든 모델을 동일한 조건에서 실행할 수 있는 건 아닙니다. 모델의 크기와 정밀도, 작업 방식에 따라 필요한 메모리와 연산 자원이 달라지기 때문입니다. 따라서 장비를 선택하기 전에 어떤 모델을 실행할 것인지, 추론과 파인튜닝 중 어떤 작업에 사용할 것인지 먼저 정하는 것이 좋습니다.

NVIDIA DGX Spark & ASUS & Ascent GX10·Dell Pro Max 스펙 비교

이번에 비교할 세 제품은 모두 NVIDIA GB10 Grace Blackwell 슈퍼칩을 탑재하고 있습니다. 20코어 Arm CPU와 NVIDIA Blackwell GPU를 결합한 시스템으로, 최대 1 PFLOP의 FP4 AI 연산 성능을 제공합니다.

* AI 연산 성능은 희소성(Sparsity)을 적용한 FP4 기준 최대치입니다. 메모리·스토리지 옵션과 기본 운영체제, 지원 서비스는 판매 모델 및 지역에 따라 달라질 수 있습니다.

세 제품은 동일한 GB10 플랫폼을 사용하기 때문에 공칭 최대 연산 성능은 같지만, 실제 작업 성능은 시스템 구성과 실행하는 AI 모델에 따라 달라질 수 있습니다. 따라서 GPU 성능만 비교하기보다는 메모리와 스토리지 옵션, 소프트웨어 환경, 제조사별 지원 조건을 함께 살펴봐야 합니다.

NVIDIA DGX Spark | NVIDIA AI 개발 환경을 위한 소형 시스템

(출처: NVIDIA Blog)

NVIDIA DGX Spark는 GB10 Grace Blackwell 슈퍼칩과 128GB 통합 메모리를 기반으로 대규모 AI 모델을 로컬에서 실행할 수 있도록 설계된 시스템입니다.

NVIDIA에 따르면, 최대 200B 파라미터 모델의 추론과 최대 70B 파라미터 모델의 파인튜닝을 지원합니다. 뿐만 아니라, NVIDIA DGX OS 운영체제와 AI 개발 소프트웨어 환경을 제공해 NVIDIA의 개발 도구와 프레임워크를 활용할 수 있는데요. 로컬에서 검증한 작업을 이후 DGX 서버나 클라우드 환경으로 옮길 계획이라면 해당 제품을 고려하는 것이 좋습니다.

또한, NVIDIA ConnectX-7 네트워킹을 통해 두 대의 DGX Spark를 연결하면 총 256GB의 통합 메모리를 활용해 최대 약 400B 파라미터 모델의 분산 추론까지 확장할 수 있습니다. 다만, 모델의 정밀도와 분산 추론 구성에 따라 실제 지원 범위는 달라지므로, 확장 계획이 있을 경우, 연결 방식과 소프트웨어 요구 사항을 미리 확인해야 합니다.

ASUS Ascent GX10 | 메모리·스토리지 구성에 따른 선택

(출처: ASUS)

ASUS Ascent GX10은 NVIDIA DGX Spark와 동일한 GB10 Grace Blackwell 슈퍼칩을 탑재한 AI 워크스테이션입니다. 최대 1 PFLOP의 FP4 AI 연산 성능을 제공하며, NVIDIA DGX OS 기반 AI 개발 환경도 지원합니다.

두 제품은 같은 플랫폼을 사용하지만, 선택할 수 있는 하드웨어 구성에는 차이가 있습니다. ASUS Ascent GX10은 64GB와 128GB 메모리 구성, 1TB·2TB·4TB 스토리지 옵션을 제공합니다.

ASUS는 64GB 모델을 약 30~35B 파라미터급 AI 모델과 에이전트를 로컬에서 실행하는 용도로 소개하고 있는데요. 더 큰 모델을 다루거나 메모리 여유가 필요한 작업이라면 128GB 구성을 고려할 수 있습니다. 다만 실제 실행 가능한 모델 규모는 정밀도와 메모리 사용량에 따라 달라집니다.

스토리지 역시 용량뿐 아니라 인터페이스까지 확인할 필요가 있습니다. ASUS Ascent GX10은 제품 구성에 따라 PCIe 4.0 또는 PCIe 5.0 SSD가 적용되기 때문입니다. 여러 AI 모델과 데이터셋을 장비에 저장할 계획이라면 필요한 저장 공간과 데이터 처리 환경을 고려해 구성을 선택하는 것이 좋습니다.

Dell Pro Max with GB10 | 기업 IT 운영 환경과 지원 서비스 고려

(출처: DELL)

Dell Pro Max with GB10도 NVIDIA GB10 Grace Blackwell 슈퍼칩을 기반으로 합니다. NVIDIA DGX OS를 지원하며, 64GB와 128GB 메모리 구성 및 최대 4TB 스토리지 옵션을 갖추고 있죠.

앞서 살펴본 제품들과 연산 플랫폼이 같은 만큼, Dell 제품을 선택할 때도 기본 성능 외의 조건을 비교해야 합니다. 특히 기업에서 사용하는 장비라면 제품 도입 이후의 유지보수와 기술 지원 방식도 구매 결정에 영향을 줄 수 있는데요.

Dell은 국내 제품 페이지에서 기본 하드웨어 서비스와 원격 진단 후 현장 서비스 등 지원 조건을 안내하고 있습니다. 기존에 Dell 장비를 운영하고 있거나 사내 IT 자산 관리 기준에 맞춰 제품을 도입해야 한다면, 필요한 서비스 수준과 계약 조건을 함께 확인하는 것이 좋습니다.

AI 워크스테이션, 어떤 기준으로 선택해야 할까요?

세 제품 모두 NVIDIA GB10을 기반으로 하기 때문에 공개된 최대 연산 성능만으로 우열을 가리기는 어렵습니다. 실제 구매를 결정하기 전에는 다음 세 가지를 확인해 보세요.

1. 실행할 AI 모델과 메모리 용량

LLM 추론이나 파인튜닝에 사용할 모델을 먼저 정해야 합니다. 모델의 크기와 정밀도에 따라 메모리 요구량이 달라지며, 일반적으로 파인튜닝은 같은 모델의 추론보다 더 많은 메모리와 연산 자원을 필요로 합니다. 따라서 작업에 필요한 메모리를 확인한 뒤 64GB와 128GB 중 적합한 구성을 선택해야 합니다.

2. 스토리지 및 네트워크 확장

AI 모델과 데이터셋을 여러 개 저장할 계획이라면 스토리지 용량을 확인해야 합니다. 특히 ASUS Ascent GX10은 구성에 따라 PCIe 인터페이스가 달라지므로 실제 구매 모델의 사양을 비교하는 것이 좋습니다. 여러 시스템을 연결할 계획이라면 ConnectX-7 기반 네트워크 구성과 지원되는 연결 방식도 함께 살펴봐야 하죠.

3. 소프트웨어 환경과 유지보수

세 제품 모두 NVIDIA 기반 AI 개발 환경을 지원하지만, 제조사와 판매 모델에 따라 기본 운영체제와 제공되는 소프트웨어, 기술 지원 조건은 달라질 수 있습니다. 기업에서 장기간 사용할 장비라면 기존 개발 도구와의 호환성뿐 아니라 운영체제 업데이트, 장애 대응 및 유지보수 범위까지 확인해야 합니다.

AI 워크스테이션 도입을 검토하고 있다면

AI 워크스테이션은 어떤 모델을 개발하고 실행할지에 따라 필요한 구성이 달라집니다. 따라서 제품을 선택하기 전에 모델의 요구 사양과 개발 환경, 향후 활용 계획을 함께 살펴볼 필요가 있습니다.

씨이랩은 NVIDIA Elite Partner로서 AI 인프라 설계부터 구축, 운영까지 지원하고 있습니다. AI 워크스테이션 도입을 고려하고 있다면, 사용 목적과 필요한 사양을 바탕으로 맞춤 안내를 제공해 드리겠습니다.

우리 조직에 적합한 AI 워크스테이션이 궁금하다면?