GPU 对比
H100 vs L40S：规格、月价与选购建议
H100 是一款训练 GPU：80 GB HBM3，带宽 3.35 TB/s，稠密 FP8 算力 1.98 PF，8 卡服务器内 GPU 之间通过 NVLink 互联。L40S 是一款 PCIe 推理与图形卡，配备 48 GB GDDR6，带宽 864 GB/s，FP8 算力 0.73 PF，月价不到前者的一半。训练、微调和大模型请选择 H100；预算有限的 7B 至 13B 推理、图像生成和渲染请选择 L40S。
| 规格 | NVIDIA H100 SXM | NVIDIA L40S |
|---|---|---|
| 架构 | Hopper | Ada Lovelace |
| 显存 | 80 GB HBM3 | 48 GB GDDR6 |
| 显存带宽 | 3.35 TB/s | 864 GB/s |
| FP8 稠密算力 | 1.98 PF | 0.73 PF |
| 稠密 FP4 | n/a | n/a |
| 互联 | NVLink 4 · 900 GB/s | PCIe 4.0 x16 |
| 功耗（TDP） | 700 W | 350 W |
| 每 GPU 月价 | $1,999 | $849 |
| 每 GB 显存价格 | $24.99 | $17.69 |
| 每 FP8 PFLOPS 价格 | $1,010 | $1,163 |
| 库存 | 仅剩 3 块 | 38 块可用 |
每行中更优的数值以绿色标出。价格均为 CoreGPU 每 GPU 每月价格，比市场中位价低至少 25%。
- 在 8 块 NVLink 互联的 GPU 上训练与微调
- 30B 至 70B 模型受显存带宽限制的推理
- 需要高速 GPU 间互联的多 GPU 任务
- 以最低价格运行 7B 至 13B 模型推理
- 图像与视频生成
- 借助 RT Core 进行 3D 渲染与视觉特效制作
H100 vs L40S：不同服务器规格的月价
| 服务器 | H100 | L40S | 差价 |
|---|---|---|---|
| 1 块 GPU | $1,999/月 | $849/月 | L40S 便宜 $1,150 |
| 2 块 GPU | $3,998/月 | $1,698/月 | L40S 便宜 $2,300 |
| 4 块 GPU | $7,996/月 | $3,396/月 | L40S 便宜 $4,600 |
| 8 块 GPU | $15,992/月 | $6,792/月 | L40S 便宜 $9,200 |
每 GPU 固定月价，所有服务器规格均相同。以 USD 计价，不含税。
显存可容纳的最大模型
| 权重 | 1× H100 | 1× L40S | 8× H100 | 8× L40S |
|---|---|---|---|---|
| BF16 | 33B | 20B | 266B | 160B |
| FP8 | 66B | 40B | 533B | 320B |
| FP4 | 133B | 80B | 1.1T | 640B |
表中为预留 20% 激活值与运行时余量后，权重可装入显存的参数规模。长上下文和大批量需要为 KV 缓存预留更多空间：参见您需要多少显存。
H100 vs L40S：常见问题
已经是客户？请在控制台提交工单：工程师会在一个工作日内回复。
了解支持流程H100 比 L40S 更快吗？
在稠密 FP8 Tensor 算力上，H100 更快：每 GPU 1.98 PF，而对方为 0.73 PF。H100 的显存带宽为 3.35 TB/s，L40S 为 864 GB/s，而这一指标对 LLM 解码影响最大。
H100 与 L40S 的月价相比如何？
在 CoreGPU，H100 为每 GPU 每月 $1,999，L40S 为每 GPU 每月 $849，因此一台 8 卡服务器的月费分别为 $15,992 和 $6,792。L40S 每 GPU 便宜 58%。两者价格均比市场中位价低至少 25%，按月从预付余额中扣费。
LLM 推理选 H100 还是 L40S 更好？
对于大模型和长上下文，H100 凭借每 GPU 80 GB 显存更胜一筹，同一模型所需的 GPU 更少。如需在 8 块 NVLink 互联的 GPU 上进行训练和微调，请选择 H100；如需以最低价格运行 7B 至 13B 模型推理，请选择 L40S。
H100 和 L40S 可以按月租用吗？
可以。两者都是按月租用的独享 GPU，每台服务器 1 至 8 块，并提供 root SSH 访问权限。目前 H100 即将售罄（仅剩 3 块），L40S 有现货（38 块可用）。支持使用 BTC、ETH、XMR、USDT (TRC-20) 或 SOL 付款。