
GPU 資源更有效率,AI 基礎設施維運更簡單
AstraGo 是從 GPU 資源配置、工作負載執行到維運管理, 都在單一環境中支援的企業級 AI 基礎設施平台。
AstraGo 核心功能
資源配置
依照所需作業有效率地配置 GPU 資源
工作負載執行
將 AI 訓練與推論作業穩定地運行
維運管理
以 Kubernetes 為基礎整合管理 GPU 資源與工作負載
將複雜的 GPU 基礎設施維運統整於單一平台
管理各組織與專案的資源和權限。

透過排程與 GPU 切分最佳化資源運用。

即時掌握 GPU 與工作負載狀態。

維運變得更單純,GPU 使用率隨之提升。
GPU 使用率
提升 53%
部署時間
縮短 99%
封閉網路環境建置
最短 2 週
* 依據實際建置案例,結果可能因套用環境而異。
先行診斷 GPU 基礎設施效率的AstraMon
分析 GPU 使用現況與成本效益,並透過改善效果模擬提出維運最佳化方向。請以 AstraMon 診斷目前的維運狀態,並用 AstraGo 最佳化 GPU 基礎設施維運。

GPU 監控
平均 GPU 使用率、閒置時間、各星期與時段熱圖等 GPU 基礎設施現況一目了然

殭屍程序偵測
自動偵測佔用 GPU 記憶體但實際未進行運算的程序

將低效率換算為金額
透過 AstraGo 導入模擬提出預估年度節省金額

自動產生報告
自動產生可立即使用的管理層報告
歡迎查看常見問題
VIEW ALL現有的 GPU 伺服器也能部署 AstraGo 嗎?
可以。AstraGo 能夠部署在現有的 NVIDIA GPU 伺服器及 NPU(FuriosaAI、DeepX)上,異質 GPU 也可在同一平台統一管理。我們會先分析現有基礎設施環境與需求,再設計並建置適合貴公司環境的 GPU 叢集架構。
想了解 AstraGo 支援哪些 GPU 環境。
AstraGo 支援 NVIDIA GPU 全系列型號,並可依地端部署環境進行設計。它同時支援 AI 訓練與推理工作負載,可對由多台伺服器組成的 GPU 叢集進行統一管理。
希望在封閉網路環境中使用 AstraGo。
AstraGo 可在封閉網路等對安全性要求較高的環境中使用。我們會結合貴公司的安全與網路環境進行建置,並支援貼合地端部署環境的維運方式。
部署後如何取得技術支援?
部署時將指派 1 名專屬開發人員,直接提供技術支援。發生故障時,專屬工程師也會查明原因並進行處理,並提供遠端或現場技術支援。我們也提供營運教育訓練、系統配置變更、整合與應用部署等營運所需的技術支援。
希望同時執行 AI 訓練與推理工作負載。
AstraGo 同時支援 AI 訓練與推理工作負載。可依工作負載切分並分配 GPU 資源,最佳化資源利用率,使一張 GPU 能夠同時執行多個工作負載。
導入前可以先驗證效果嗎?
可以。可在貴公司環境中進行概念驗證(PoC),先行驗證效果。PoC 的期間與範圍等具體條件將另行協商。
部署需要多長時間?
視安全、網路、儲存、外部系統串接等客製化程度而定,大約需要 2 週至 2 個月。
費用是如何構成的?
費用由年度訂閱授權與依節點計算的伺服器安裝費構成。如需客製開發,將另行協商。
能否安裝在正在運作的伺服器或 Kubernetes 環境中?
對於正在運作的伺服器,會先安裝 Kubernetes,再安裝 AstraGo。已在運作 Kubernetes 的環境也可以安裝,但可能與現有軟體發生衝突,因此安裝前將由負責人員事先確認。
電源管理是如何運作的?
在訓練、微調等批次作業執行期間,會自動調整 GPU 功耗上限。作業結束或功能停止後,GPU 設定會自動恢復為預設值。
支援哪些 NPU?
目前支援 FuriosaAI 與 DeepX 的 NPU,可用於 DeepX ModelZoo 中視覺模型(物件偵測、影像分類)的推理服務。
AI Agent 可以連接哪些 AI 工具?
透過 MCP 方式連接,已在 Claude Code 中完成驗證,同時也支援 Codex 與 ChatGPT。
AstraMon 是什麼產品?
AstraMon 是一款診斷 GPU 基礎設施實際使用狀況的解決方案。可以了解目前 GPU 的使用效率,並預先確認導入 AstraGo 後預計可節省的成本。
透過 AstraMon 可以了解哪些內容?
監測 GPU 使用率、閒置時間與待機功耗,以數值形式計算 GPU 閒置成本。還可模擬 GPU 利用率變化帶來的節省效果,並以整合營運報告的形式提供結果。
第 1 頁




