GPU 对比
B200 vs H100:规格、月价与选购建议
B200(Blackwell)的显存是 H100 的 2.25 倍(180 vs 80 GB),带宽是其 2.4 倍(8 vs 3.35 TB/s),稠密 FP8 算力约为其 2.3 倍(4.5 vs 1.98 PF),还拥有 Hopper 所没有的 FP4 Tensor Core,而月价约为其 2.2 倍。按每 PFLOPS FP8 算力计算,两者成本大致相同:B200 胜在显存、FP4 以及模型所需的 GPU 数量,H100 则胜在入门价格和针对 Hopper 调优的代码。
| 规格 | NVIDIA HGX B200 | NVIDIA H100 SXM |
|---|---|---|
| 架构 | Blackwell | Hopper |
| 显存 | 180 GB HBM3e | 80 GB HBM3 |
| 显存带宽 | 8 TB/s | 3.35 TB/s |
| FP8 稠密算力 | 4.5 PF | 1.98 PF |
| 稠密 FP4 | 9 PF | n/a |
| 互联 | NVLink 5 · 1.8 TB/s | NVLink 4 · 900 GB/s |
| 功耗(TDP) | 1,000 W | 700 W |
| 每 GPU 月价 | $4,449 | $1,999 |
| 每 GB 显存价格 | $24.72 | $24.99 |
| 每 FP8 PFLOPS 价格 | $989 | $1,010 |
| 库存 | 11月20日到货 | 仅剩 3 块 |
每行中更优的数值以绿色标出。价格均为 CoreGPU 每 GPU 每月价格,比市场中位价低至少 25%。
- 需要用满每 GPU 180 GB 显存的训练与微调
- 借助 Blackwell 内核进行 FP4 推理
- 显存达 2.25 倍,每个模型所需 GPU 更少
- 能轻松放进 80 GB 的模型
- 针对 Hopper 调优的代码与配方
- 8 卡 NVLink 节点中月价最低
B200 vs H100:不同服务器规格的月价
| 服务器 | B200 | H100 | 差价 |
|---|---|---|---|
| 1 块 GPU | $4,449/月 | $1,999/月 | H100 便宜 $2,450 |
| 2 块 GPU | $8,898/月 | $3,998/月 | H100 便宜 $4,900 |
| 4 块 GPU | $17,796/月 | $7,996/月 | H100 便宜 $9,800 |
| 8 块 GPU | $35,592/月 | $15,992/月 | H100 便宜 $19,600 |
每 GPU 固定月价,所有服务器规格均相同。以 USD 计价,不含税。
显存可容纳的最大模型
| 权重 | 1× B200 | 1× H100 | 8× B200 | 8× H100 |
|---|---|---|---|---|
| BF16 | 75B | 33B | 600B | 266B |
| FP8 | 150B | 66B | 1.2T | 533B |
| FP4 | 300B | 133B | 2.4T | 1.1T |
表中为预留 20% 激活值与运行时余量后,权重可装入显存的参数规模。长上下文和大批量需要为 KV 缓存预留更多空间:参见您需要多少显存。
B200 vs H100:常见问题
已经是客户?请在控制台提交工单:工程师会在一个工作日内回复。
了解支持流程B200 比 H100 更快吗?
在稠密 FP8 Tensor 算力上,B200 更快:每 GPU 4.5 PF,而对方为 1.98 PF。B200 的显存带宽为 8 TB/s,H100 为 3.35 TB/s,而这一指标对 LLM 解码影响最大。
B200 与 H100 的月价相比如何?
在 CoreGPU,B200 为每 GPU 每月 $4,449,H100 为每 GPU 每月 $1,999,因此一台 8 卡服务器的月费分别为 $35,592 和 $15,992。H100 每 GPU 便宜 55%。两者价格均比市场中位价低至少 25%,按月从预付余额中扣费。
LLM 推理选 B200 还是 H100 更好?
对于大模型和长上下文,B200 凭借每 GPU 180 GB 显存更胜一筹,同一模型所需的 GPU 更少。如果训练和微调需要用满每 GPU 180 GB 显存,请选择 B200;如果模型能轻松放进 80 GB,请选择 H100。
B200 和 H100 可以按月租用吗?
可以。两者都是按月租用的独享 GPU,每台服务器 1 至 8 块,并提供 root SSH 访问权限。目前 B200 已售罄,11月20日补货,H100 即将售罄(仅剩 3 块)。支持使用 BTC、ETH、XMR、USDT (TRC-20) 或 SOL 付款。

