AstraGo AIDC Infrastructure Day 2026 SEOUL: GPU를 더 살까, 더 잘 쓸까

"GPU를 더 사야 할까, 지금 있는 GPU를 더 잘 써야 할까?"

AI 인프라를 운영하는 기업이라면 한 번쯤 던져 봤을 질문입니다. GPU가 AI 연산의 핵심 자원인 것은 분명하지만, 많이 확보한다고 인프라가 효율적으로 돌아가는 것은 아닙니다. 한쪽에서는 자원이 모자라 작업이 밀리고, 다른 쪽에서는 GPU가 놀고 있는 일이 생기기 때문입니다.

지난 9월 30일 서울 강남구 그랜드 머큐어 임피리얼 팰리스 서울 강남에서 열린 'AstraGo AIDC Infrastructure Day 2026 SEOUL'은 이 질문을 중심으로 진행됐습니다. AIDC의 변화부터 GPU 오케스트레이션, 자원 운영까지 씨이랩이 현장에서 나눈 이야기를 전합니다.

보유량보다 활용도가 중요해진 GPU 시장

행사는 이우영 씨이랩 의장의 환영사로 문을 열었습니다. 이 의장은 GPU 시장의 관점이 '얼마나 많은 GPU를 가졌는가'에서 '얼마나 많은 AI 서비스를 최적화해 제공할 수 있는가'로 옮겨 가고 있다고 말했습니다. 같은 규모의 인프라라도 쓰는 방식에 따라 성과가 달라지는 만큼, 자원을 얼마나 효율적으로 활용하느냐가 중요해졌다는 설명입니다.

AIDC 전환, 구축 전부터 운영을 설계해야

채정환 씨이랩 대표는 'AIDC 전환의 임계점, 지금 기업이 준비해야 할 것'을 주제로 발표했습니다. 기존 데이터센터가 IT 시스템을 안정적으로 돌리는 공간이었다면, AIDC는 데이터와 전력을 투입해 AI 서비스를 만들어 내는 공간으로 바뀌고 있습니다.

채 대표는 GPU뿐 아니라 전력과 냉각까지 인프라 전반을 고려해, 구축 전부터 운영 환경을 설계해야 한다고 강조했습니다. AI 서비스가 커질수록 인프라도 복잡해지는 만큼, 자원 확보에 그치지 않고 어떤 환경에서 어떻게 운영할지까지 미리 살펴야 한다는 것입니다.

GPU 병목, 해법은 '배차'에 있다

송유진 씨이랩 CTO는 AIDC를 움직이는 GPU 오케스트레이션의 역할을 다뤘습니다. GPU가 부족해 작업이 밀리는 것처럼 보여도, 실제로는 자원이 필요한 곳에 제대로 배분되지 않는 경우가 많습니다. 송 CTO는 이를 '배차 시스템이 없는 택시 회사'에 비유했습니다. 택시가 충분해도 배차가 안 되면 승객을 제때 태울 수 없듯, GPU도 자원을 관리하고 배분하는 운영 체계가 있어야 제대로 쓸 수 있다는 설명입니다.

또한 GPU 사용량에 더해 전력과 토큰 생성량까지 함께 보면서, AI 서비스를 만드는 데 실제로 드는 비용을 파악해야 리소스를 효율화할 수 있다고 덧붙였습니다.

입장부터 체험까지, 현장에서 만난 솔루션

참석자들은 입장하는 순간부터 씨이랩의 솔루션을 경험했습니다. 등록 데스크에서 받은 명찰을 출입구의 XAIVA 키오스크에 인식하면, 화면에 안내된 테이블 번호를 보고 바로 자리에 앉을 수 있도록 구성했습니다.

행사장 안의 체험존에서는 GPU 자원을 관리하는 AstraGo, GPU 사용 현황을 모니터링하는 AstraMon, AI 산업안전 솔루션 XAIVA를 한자리에서 살펴볼 수 있었습니다. 많은 참석자가 체험존을 찾아 각 솔루션의 기능과 실제 활용 방식을 묻고 이야기를 나눴습니다.

AIDC의 다음 단계는 '운영'

이날 세션들이 공통으로 짚은 것은, AI 데이터센터가 커질수록 구축과 운영을 따로 떼어 생각하기 어렵다는 점입니다. 어떤 GPU를 얼마나 확보할지 정하고, 전력과 냉각 환경을 설계하고, 구축 후에는 GPU를 필요한 곳에 배분하고 사용 현황을 관리해야 합니다. 그 과정에서 나온 데이터로 인프라를 다시 최적화하는 것까지가 하나의 흐름입니다.

씨이랩은 이 흐름을 구축부터 운영까지 연결해 지원합니다. NVIDIA Omniverse 기반 사전 시뮬레이션으로 최적의 인프라 환경을 설계하고, AstraMon으로 GPU 사용 현황과 비효율을 파악한 뒤, AstraGo로 자원을 효율적으로 배분하고 운영합니다. 앞으로도 씨이랩은 기업이 AI 인프라를 더 효율적으로 구축하고 운영할 수 있도록 현장에 필요한 기술과 인사이트를 이어 가겠습니다. AIDC 구축이나 GPU 운영 효율화를 고민하고 있다면 씨이랩에 문의해 주세요.