跳到正文

GPU 与托管机房

GPU 集群,以及运行它们所需的空间、电力和网络。

联系我们的 AI 基础设施团队

概览

训练和运行 AI 模型需要高密度 GPU 算力、高吞吐网络,以及能够供电和散热的设施。Noviant 为大语言模型训练和推理构建 GPU 服务器集群,并将其部署在专为高密度 AI 机柜设计的 Tier III+ 托管机房中。

我们通过连接金融枢纽和 AI 研究中心的私有低延迟骨干网络把它们连接起来,让模型靠近您的数据和用户。

适合对象

  • 正在训练或微调自有模型的机构
  • 出于成本或掌控考虑,把 AI 推理从公有云迁出的团队
  • 需要在交易枢纽附近部署低延迟算力的金融机构

服务内容

  • GPU 服务器集群

    基于最新一代 NVIDIA GPU,为 LLM 训练和推理定制构建,采用 InfiniBand 网络并预留液冷设计。

  • Tier III+ 托管机房

    专为高密度 AI 工作负载设计的设施,单机柜功率最高 100 kW,配备冗余电力与冷却,以及全天候安保和监控。

  • 低延迟连接

    私有网络骨干,提供暗光纤接入、DDoS 防护,并直连各大云平台。

  • 容量规划

    我们按工作负载规划算力、电力和网络,并在您需要之前规划好下一次扩容。

交付方式

  1. 01

    确定范围

    明确工作负载、模型规模、吞吐量和延迟目标。

  2. 02

    设计

    选定 GPU、网络和托管机房规模;追求速度时,可选择 LiquidEdge AI POD。

  3. 03

    部署

    上架、布线并让集群上线,然后验证性能。

  4. 04

    技术支持

    监控并维护集群及其相关连接。

客户为何信赖 Noviant

ISO/IEC 27001:2022 认证

自 2019 年 10 月 26 日起获得认证;自 2025 年 10 月 26 日起升级为 ISO/IEC 27001:2022 认证(有效期至 2028 年 10 月 25 日)。证书编号 382119.00,由 ANAB 认可的认证机构 DEKRA Certification, Inc. 颁发。认证范围:包括网络安全、云解决方案、数据分析与数据基础设施的托管服务。

纽约州少数族裔与女性企业(MWBE)认证

协助州及市政府机构达成第 15-A 条关于少数族裔与女性企业参与的目标。

常见问题

你们是提供 GPU,还是托管我们自己的?

两者皆可。我们可以设计并提供完整集群,也可以在托管机房安装和支持您已有的硬件。

单个机柜最高支持多少功率?

我们的托管机房方案专为最高 100 kW 的高密度 AI 机柜设计。

什么情况下 LiquidEdge AI POD 比托管机房更合适?

当您需要在自己掌控的场地快速获得专属算力,或需要比托管机房更高的密度时。POD 从出厂到上线约八周。

集群可以连接我们的云账户吗?

可以。除私有骨干网络外,我们还提供云直连,让工作负载可以在您的集群和公有云之间迁移。

想详细聊聊吗?

我们的团队随时为您提供帮助。

联系我们的 AI 基础设施团队