基础设施

GPU 数据中心：服务器在哪里运行，以及如何保障其持续运行。

CoreGPU 服务器托管在专业的主机托管机房，具备冗余供电、可支持 1,000 W 以上 GPU 的散热能力和驻场安保。以下是我们使用的每个机房都必须满足的条件。

每个机柜均配备冗余供电线路和 UPS。Blackwell 和 Instinct 节点每块 GPU 的功耗高达 1,000–1,400 W，因此机柜按高密度负载配置。

为发热最高的部件（例如 1,400 W 的 MI355X）采用直接液冷，为 H100、H200、L40S 和 RTX PRO 6000 服务器采用大容量风冷。

冗余上游网络连接，并提供 DDoS 防护。在每台配备 8 块 GPU 的服务器内部，GPU 之间通过 NVLink 或 Infinity Fabric 以全带宽互联。

机房有人值守，配备门禁、视频监控和访客登记。只有经授权的技术人员才能接触硬件。

SXM 和 OAM GPU 采用 NVIDIA HGX 和 AMD UBB 平台，PCIe 卡采用企业级服务器，每个节点均配备本地 NVMe。

每个批次在开售前都经过老化测试；服务器分配给下一位客户之前，磁盘会被安全擦除。

平台

按 GPU 平台划分的硬件

我们出租的每款型号，及其运行平台和每块 GPU 满载时的功耗（厂商数据）。我们按这些功率密度选择机房、配置机柜。

GPU	平台	显存	GPU 互联	单 GPU 功耗	8 块 GPU 满载	库存	每 GPU/月
NVIDIA B300	SXM · 8-GPU HGX	288 GB HBM3e	NVLink 5 · 1.8 TB/s	1,100 W	8.8 kW	仅剩 9 块	$4,899
NVIDIA B200	SXM · 8-GPU HGX	180 GB HBM3e	NVLink 5 · 1.8 TB/s	1,000 W	8 kW	11月20日到货	$4,449
AMD MI355X	OAM · 8-GPU UBB	288 GB HBM3E	Infinity Fabric · 1.08 TB/s	1,400 W	11.2 kW	21 块可用	$2,449
AMD MI350X	OAM · 8-GPU UBB	288 GB HBM3E	Infinity Fabric · 1.08 TB/s	1,000 W	8 kW	仅剩 6 块	$2,249
NVIDIA H200	SXM · 8-GPU HGX	141 GB HBM3e	NVLink 4 · 900 GB/s	700 W	5.6 kW	34 块可用	$2,699
AMD MI325X	OAM · 8-GPU UBB	256 GB HBM3E	Infinity Fabric · 896 GB/s	1,000 W	8 kW	12月2日到货	$2,299
AMD MI300X	OAM · 8-GPU UBB	192 GB HBM3	Infinity Fabric · 896 GB/s	750 W	6 kW	41 块可用	$1,749
NVIDIA H100	SXM · 8-GPU HGX	80 GB HBM3	NVLink 4 · 900 GB/s	700 W	5.6 kW	仅剩 3 块	$1,999
NVIDIA RTX PRO 6000	PCIe 5.0 · 每台最多 8 块	96 GB GDDR7	PCIe 5.0 x16	600 W	4.8 kW	52 块可用	$1,199
NVIDIA L40S	PCIe 4.0 · 每台最多 8 块	48 GB GDDR6	PCIe 4.0 x16	350 W	2.8 kW	38 块可用	$849

功耗：取自厂商数据手册的单 GPU 最大板卡功耗，仅计 GPU（CPU、内存、存储和网络功耗另计）。库存与价格为实时数据。

地区

服务器在哪里运行，是您租用内容的一部分，而不是意外。

控制台会在每台服务器的 IP 地址和 SSH 信息旁显示其所在地区。

拥有活跃服务器的客户可以通过工单申请在特定地区开通新服务器，视可用批次而定。

您的数据存放在服务器的本地 NVMe 上。我们不会将其复制到其他地方，租用结束时数据会被安全擦除。

数据处理附录和安全措施说明了硬件与数据的处理方式。更多文档可应要求提供。