B300
NVIDIA · Blackwell Ultra
NVIDIA · Hopper · SXM · 8-GPU HGX
NVIDIA H200 基于 Hopper 架构,配备 141 GB HBM3e,带宽 4.8 TB/s:显存比 H100 多 76%,带宽高 43%,并依托目前最成熟的 CUDA 软件栈。它是我们用于微调和 FP8 推理的最高性价比 GPU。
在 CoreGPU 租用 NVIDIA H200 SXM 的价格为每 GPU 每月 $2,699,约合每 GPU 小时 $3.70;8 卡服务器每月 $21,592,比市场中位价 $3,606 低 25%。只要每月使用 GPU 超过 546 小时(75%),按月租用就比按需更划算。库存:当前空闲 34 块 GPU。
一台 8× H200 服务器通过 NVLink 4 提供 1.1 TB HBM3e 显存(每 GPU 900 GB/s)。
每 GPU 统一固定价格,1 至 8 块 GPU 价格相同。市场中位价为专业 GPU 云服务商的公开按需标价 × 730 小时。
| 服务器 | CoreGPU / 月 | 市场中位价 / 月 | 节省 / 月 | 节省 / 年 | ≈ 每 GPU 小时 |
|---|---|---|---|---|---|
| 1× H200 | $2,699 | $907 | $10,884 | $3.70 | |
| 2× H200 | $5,398 | $1,814 | $21,768 | $3.70 | |
| 4× H200 | $10,796 | $3,628 | $43,536 | $3.70 | |
| 8× H200 | $21,592 | $7,256 | $87,072 | $3.70 |
价格以 USD 计,不含税。市场中位价基于专业 GPU 云服务商数据,核查于 2026年11月4日;不含超大规模云厂商。与 $4.94/GPU 小时的按需价格相比,每月使用超过 546 小时,按月价格就更划算。全部 GPU 价格
表中为容纳各模型权重所需的 GPU 数量,并为激活值和运行时预留 20% 余量。一台 8 卡 H200 服务器拥有 1,128 GB HBM3e 和 15.84 PF 稠密 FP8 算力,每月 $21,592。
长上下文和大量并发请求需要额外的显存用于 KV 缓存:可参考您需要多少显存进行估算。4 位指 FP4 或 INT4 权重。
| 模型参数量 | BF16 | FP8 | 4 位 |
|---|---|---|---|
| Llama 3.1 8B 8B | 1 块 GPU | 1 块 GPU | 1 块 GPU |
| Qwen3 32B 32.8B | 1 块 GPU | 1 块 GPU | 1 块 GPU |
| Llama 3.3 70B 70.6B | 2 块 GPU | 1 块 GPU | 1 块 GPU |
| Mistral Large 2 123B | 4 块 GPU | 2 块 GPU | 1 块 GPU |
| Qwen3 235B-A22B 235B | 4 块 GPU | 2 块 GPU | 1 块 GPU |
| Llama 3.1 405B 405B | 8 块 GPU | 4 块 GPU | 2 块 GPU |
| DeepSeek-V3 / R1 671B | 超过 8 块 | 8 块 GPU | 4 块 GPU |
| Kimi K2 1T | 超过 8 块 | 超过 8 块 | 8 块 GPU |
算力与 H100 相同,但显存为 141 GB,而非 80 GB。如果您的模型或批次在 80 GB 中放不下,H200 可避免将其拆分到更多 GPU 上。
| H200 | H100 | |
|---|---|---|
| 架构 | Hopper | Hopper |
| 显存 | 141 GB HBM3e | 80 GB HBM3 |
| 显存带宽 | 4.8 TB/s | 3.35 TB/s |
| FP8 稠密算力 | 1.98 PF | 1.98 PF |
| 稠密 FP4 | n/a | n/a |
| 互联 | NVLink 4 · 900 GB/s | NVLink 4 · 900 GB/s |
| 功耗(TDP) | 700 W | 700 W |
| 每 GPU 月价 | $2,699 | $1,999 |
| 每 GB 显存价格 | $19.14 | $24.99 |
| 每 FP8 PFLOPS 价格 | $1,363 | $1,010 |
| 库存 | 34 块可用 | 仅剩 3 块 |
以下为厂商数据手册中的单 GPU 数据。Tensor 算力为稠密值(不含稀疏加速)。
| 型号 | NVIDIA H200 SXM |
|---|---|
| 架构 | Hopper |
| 外形规格 | SXM · 8-GPU HGX |
| 显存 | 141 GB HBM3e |
| 显存带宽 | 4.8 TB/s |
| FP8 Tensor(稠密) | 1.98 PF |
| FP4 Tensor(稠密) | 不支持 |
| 互联 | NVLink 4 · 900 GB/s |
| 功耗(TDP) | 700 W |
| 每台服务器 GPU 数量 | 1 至 8 |
| 库存 | 34 块可用 |
已经是客户?请在控制台提交工单:工程师会在一个工作日内回复。
了解支持流程CoreGPU 的价格为每 GPU 每月 $2,699,约合每 GPU 小时 $3.70,而市场中位价为 $3,606($4.94/小时 × 730 小时)。一台完整的 8 卡服务器每月 $21,592,不含税。
有:当前批次共 128 块 GPU,其中 34 块可用。现货服务器在付款后 60 秒内交付,并提供 root SSH 权限。
每台服务器 1 至 8 块 GPU,每 GPU 价格相同。8 卡服务器配备完整的 NVLink 4 全互联。需要更多?可租用多台服务器,或申请专属批次。
算力与 H100 相同,但显存为 141 GB,而非 80 GB。如果您的模型或批次在 80 GB 中放不下,H200 可避免将其拆分到更多 GPU 上。查看完整的 H200 vs H100 对比。
独享 GPU(绝不共享或切分)、root SSH 权限、可选纯净操作系统或预装 CUDA、PyTorch 和 vLLM 的现成镜像、本地 NVMe 临时存储,以及无开通费的按月计费。
按市场中位价每 GPU 小时 $4.94 计算,只要您每月使用 GPU 超过 546 小时(即 75% 的时间,约每天 18 小时),按月租用就更便宜。训练任务、微调和全天候推理通常都会超过这条线;如果只是测试几个小时,按小时计费更划算。查看完整计算。
独享。您服务器中的 H200 GPU 在整个月内只属于您:绝不与其他客户共享、分区或分时复用,您可使用其全部 141 GB 显存和 NVLink 4 带宽,并拥有服务器的 root SSH 权限。
可以。您可使用比特币(BTC)、以太坊(ETH)、门罗币(XMR)、TRON 网络上的 USDT(TRC-20)或 Solana(SOL)为美元余额充值,最低 $100,最高赠送 +30% 额度,服务器费用从该余额中扣除。无需银行卡。了解加密货币付款流程。
算力上并不更快:两者的稠密 FP8 算力均为 1.98 PF。H200 配备 141 GB HBM3e,带宽 4.8 TB/s,而对方为 80 GB HBM3、3.35 TB/s,因此 LLM 解码、长上下文推理等受显存带宽限制的任务运行更快,需要两块 H100 的模型往往一块 H200 就能装下。参见 H200 vs H100。