跳到正文

GPU 與託管機房

GPU 叢集,以及執行它們所需的空間、電力和網路。

聯絡我們的 AI 基礎設施團隊

概覽

訓練和執行 AI 模型需要高密度 GPU 算力、高吞吐網路,以及能夠供電和散熱的設施。Noviant 為大語言模型訓練和推理構建 GPU 伺服器叢集,並將其部署在專為高密度 AI 機櫃設計的 Tier III+ 託管機房中。

我們通過連線金融樞紐和 AI 研究中心的私有低延遲骨幹網路把它們連線起來,讓模型靠近您的資料和使用者。

適合物件

  • 正在訓練或微調自有模型的機構
  • 出於成本或掌控考慮,把 AI 推理從公有云遷出的團隊
  • 需要在交易樞紐附近部署低延遲算力的金融機構

服務內容

  • GPU 伺服器叢集

    基於最新一代 NVIDIA GPU,為 LLM 訓練和推理定製構建,採用 InfiniBand 網路並預留液冷設計。

  • Tier III+ 託管機房

    專為高密度 AI 工作負載設計的設施,單機櫃功率最高 100 kW,配備冗餘電力與冷卻,以及全天候安保和監控。

  • 低延遲連線

    私有網路骨幹,提供暗光纖接入、DDoS 防護,並直連各大雲平臺。

  • 容量規劃

    我們按工作負載規劃算力、電力和網路,並在您需要之前規劃好下一次擴容。

交付方式

  1. 01

    確定範圍

    明確工作負載、模型規模、吞吐量和延遲目標。

  2. 02

    設計

    選定 GPU、網路和託管機房規模;追求速度時,可選擇 LiquidEdge AI POD。

  3. 03

    部署

    上架、佈線並讓叢集上線,然後驗證效能。

  4. 04

    技術支援

    監控並維護叢集及其相關連線。

客戶為何信賴 Noviant

ISO/IEC 27001:2022 認證

自 2019 年 10 月 26 日起獲得認證;自 2025 年 10 月 26 日起升級為 ISO/IEC 27001:2022 認證(有效期至 2028 年 10 月 25 日)。證書編號 382119.00,由 ANAB 認可的認證機構 DEKRA Certification, Inc. 頒發。認證範圍:包括網路安全、雲解決方案、資料分析與資料基礎設施的託管服務。

紐約州少數族裔與女性企業(MWBE)認證

協助州及市政府機構達成第 15-A 條關於少數族裔與女性企業參與的目標。

常見問題

你們是提供 GPU,還是託管我們自己的?

兩者皆可。我們可以設計並提供完整叢集,也可以在託管機房安裝和支援您已有的硬體。

單個機櫃最高支援多少功率?

我們的託管機房方案專為最高 100 kW 的高密度 AI 機櫃設計。

什麼情況下 LiquidEdge AI POD 比託管機房更合適?

當您需要在自己掌控的場地快速獲得專屬算力,或需要比託管機房更高的密度時。POD 從出廠到上線約八週。

叢集可以連線我們的雲賬戶嗎?

可以。除私有骨幹網路外,我們還提供雲直連,讓工作負載可以在您的叢集和公有云之間遷移。

想詳細聊聊嗎?

我們的團隊隨時為您提供幫助。

聯絡我們的 AI 基礎設施團隊