GPU 对比
B300 vs H200:规格、月价与选购建议
B300(Blackwell Ultra)的显存约为 H200 的两倍(288 GB 对 141 GB),带宽为其 1.7 倍(8 TB/s 对 4.8 TB/s),稠密 FP8 算力为其 2.3 倍(4.5 PF 对 1.98 PF),另有 Hopper 不具备的 13.5 PF FP4 算力,月价约为其 1.8 倍。按单位 FP8 算力计算更便宜,还能容纳大得多的模型;如果模型能放进 141 GB 显存且代码面向 Hopper,H200 仍是性价比之选。
| 规格 | NVIDIA HGX B300 | NVIDIA H200 SXM |
|---|---|---|
| 架构 | Blackwell Ultra | Hopper |
| 显存 | 288 GB HBM3e | 141 GB HBM3e |
| 显存带宽 | 8 TB/s | 4.8 TB/s |
| FP8 稠密算力 | 4.5 PF | 1.98 PF |
| 稠密 FP4 | 13.5 PF | n/a |
| 互联 | NVLink 5 · 1.8 TB/s | NVLink 4 · 900 GB/s |
| 功耗(TDP) | 1,100 W | 700 W |
| 每 GPU 月价 | $4,899 | $2,699 |
| 每 GB 显存价格 | $17.01 | $19.14 |
| 每 FP8 PFLOPS 价格 | $1,089 | $1,363 |
| 库存 | 仅剩 9 块 | 34 块可用 |
每行中更优的数值以绿色标出。价格均为 CoreGPU 每 GPU 每月价格,比市场中位价低至少 25%。
- 推理模型的 FP4 与 FP8 推理
- 超过每 GPU 141 GB 的模型与 KV 缓存
- 每个模型所需 GPU 更少
- 单块 GPU 运行 FP8 精度的 70B 模型
- 针对 Hopper 调优的 CUDA 代码与配方
- 141 GB 够用时月价更低
B300 vs H200:不同服务器规格的月价
| 服务器 | B300 | H200 | 差价 |
|---|---|---|---|
| 1 块 GPU | $4,899/月 | $2,699/月 | H200 便宜 $2,200 |
| 2 块 GPU | $9,798/月 | $5,398/月 | H200 便宜 $4,400 |
| 4 块 GPU | $19,596/月 | $10,796/月 | H200 便宜 $8,800 |
| 8 块 GPU | $39,192/月 | $21,592/月 | H200 便宜 $17,600 |
每 GPU 固定月价,所有服务器规格均相同。以 USD 计价,不含税。
显存可容纳的最大模型
| 权重 | 1× B300 | 1× H200 | 8× B300 | 8× H200 |
|---|---|---|---|---|
| BF16 | 120B | 58B | 960B | 470B |
| FP8 | 240B | 117B | 1.9T | 940B |
| FP4 | 480B | 235B | 3.8T | 1.9T |
表中为预留 20% 激活值与运行时余量后,权重可装入显存的参数规模。长上下文和大批量需要为 KV 缓存预留更多空间:参见您需要多少显存。
B300 vs H200:常见问题
已经是客户?请在控制台提交工单:工程师会在一个工作日内回复。
了解支持流程B300 比 H200 更快吗?
在稠密 FP8 Tensor 算力上,B300 更快:每 GPU 4.5 PF,而对方为 1.98 PF。B300 的显存带宽为 8 TB/s,H200 为 4.8 TB/s,而这一指标对 LLM 解码影响最大。
B300 与 H200 的月价相比如何?
在 CoreGPU,B300 为每 GPU 每月 $4,899,H200 为每 GPU 每月 $2,699,因此一台 8 卡服务器的月费分别为 $39,192 和 $21,592。H200 每 GPU 便宜 45%。两者价格均比市场中位价低至少 25%,按月从预付余额中扣费。
LLM 推理选 B300 还是 H200 更好?
对于大模型和长上下文,B300 凭借每 GPU 288 GB 显存更胜一筹,同一模型所需的 GPU 更少。推理模型的 FP4 与 FP8 推理请选择 B300;在单卡上以 FP8 运行 70B 模型请选择 H200。
B300 和 H200 可以按月租用吗?
可以。两者都是按月租用的独享 GPU,每台服务器 1 至 8 块,并提供 root SSH 访问权限。目前 B300 即将售罄(仅剩 9 块),H200 有现货(34 块可用)。支持使用 BTC、ETH、XMR、USDT (TRC-20) 或 SOL 付款。

