常見問題
問題清單
現有的 GPU 伺服器也能部署 AstraGo 嗎?
可以。AstraGo 能夠部署在現有的 NVIDIA GPU 伺服器及 NPU(FuriosaAI、DeepX)上,異質 GPU 也可在同一平台統一管理。我們會先分析現有基礎設施環境與需求,再設計並建置適合貴公司環境的 GPU 叢集架構。
想了解 AstraGo 支援哪些 GPU 環境。
AstraGo 支援 NVIDIA GPU 全系列型號,並可依地端部署環境進行設計。它同時支援 AI 訓練與推理工作負載,可對由多台伺服器組成的 GPU 叢集進行統一管理。
希望在封閉網路環境中使用 AstraGo。
AstraGo 可在封閉網路等對安全性要求較高的環境中使用。我們會結合貴公司的安全與網路環境進行建置,並支援貼合地端部署環境的維運方式。
部署後如何取得技術支援?
部署時將指派 1 名專屬開發人員,直接提供技術支援。發生故障時,專屬工程師也會查明原因並進行處理,並提供遠端或現場技術支援。我們也提供營運教育訓練、系統配置變更、整合與應用部署等營運所需的技術支援。
希望同時執行 AI 訓練與推理工作負載。
AstraGo 同時支援 AI 訓練與推理工作負載。可依工作負載切分並分配 GPU 資源,最佳化資源利用率,使一張 GPU 能夠同時執行多個工作負載。
導入前可以先驗證效果嗎?
可以。可在貴公司環境中進行概念驗證(PoC),先行驗證效果。PoC 的期間與範圍等具體條件將另行協商。
部署需要多長時間?
視安全、網路、儲存、外部系統串接等客製化程度而定,大約需要 2 週至 2 個月。
費用是如何構成的?
費用由年度訂閱授權與依節點計算的伺服器安裝費構成。如需客製開發,將另行協商。
能否安裝在正在運作的伺服器或 Kubernetes 環境中?
對於正在運作的伺服器,會先安裝 Kubernetes,再安裝 AstraGo。已在運作 Kubernetes 的環境也可以安裝,但可能與現有軟體發生衝突,因此安裝前將由負責人員事先確認。
電源管理是如何運作的?
在訓練、微調等批次作業執行期間,會自動調整 GPU 功耗上限。作業結束或功能停止後,GPU 設定會自動恢復為預設值。
支援哪些 NPU?
目前支援 FuriosaAI 與 DeepX 的 NPU,可用於 DeepX ModelZoo 中視覺模型(物件偵測、影像分類)的推理服務。
AI Agent 可以連接哪些 AI 工具?
透過 MCP 方式連接,已在 Claude Code 中完成驗證,同時也支援 Codex 與 ChatGPT。