库存紧张

NVIDIA HGX B300:仅剩 9 块 GPU,$4,899/⁠月,比市场价低 25%。仅剩 9 块 B300,$4,899/⁠月

配置 B300

GPU 对比

GPU 对比:该租用哪款 GPU?

逐项对比我们目录中的 GPU 规格,附实时月价、每 GB 显存价格和每 PFLOPS 价格,并给出通俗易懂的结论。

  • 15 组对比
  • 10 款 GPU
  • 实时价格与库存

全部对比

NVIDIA

B300 vs B200

B300(Blackwell Ultra)是更好的推理 GPU:显存 288 GB,对比 180 GB,稠密 FP4 算力为后者的 1.5 倍,每月价格高约 10%。B200 …

$4,899 vs $4,449 /GPU/⁠月 对比
NVIDIA

H200 vs H100

H200 与 H100 采用相同的 Hopper 计算架构(1.98 PF FP8),因此关键在于显存。H200 为 141 GB、4.8 TB/s,对比 80 GB、3.35 TB/s:如果您的…

$2,699 vs $1,999 /GPU/⁠月 对比
AMD vs NVIDIA

MI355X vs B300

两者均配备 288 GB HBM,带宽 8 TB/s。MI355X 的稠密 FP8 更高(5.0 vs 4.5 PF),保留了强劲的 FP64,且每月价格约为一半;B300 领先于…

$2,449 vs $4,899 /GPU/⁠月 对比
AMD vs NVIDIA

MI300X vs H100

MI300X 的显存是 H100 的 2.4 倍(192 vs 80 GB),带宽更高,稠密 FP8 也更强,而月价更低。如果您依赖 CUDA,H100 更胜一筹…

$1,749 vs $1,999 /GPU/⁠月 对比
NVIDIA

RTX PRO 6000 vs L40S

RTX PRO 6000 Blackwell 的显存是 L40S 的两倍(96 vs 48 GB),带宽几乎翻倍,并增加了 FP4 Tensor Core。L40S 仍是最便宜的…

$1,199 vs $849 /GPU/⁠月 对比
AMD

MI355X vs MI350X

同一芯片家族,同样配备 288 GB HBM3E、8 TB/s。MI355X 采用液冷,功耗最高 1,400 W,FP8 算力高约 9%;MI350X 为风冷,功耗 1,0…

$2,449 vs $2,249 /GPU/⁠月 对比
NVIDIA

B200 vs H200

B200 领先一代:稠密 FP8 约为 H200 的 2.3 倍,显存 180 vs 141 GB,带宽 8 vs 4.8 TB/s。H200 月价低得多,并可运行所有 Hopper…

$4,449 vs $2,699 /GPU/⁠月 对比
AMD vs NVIDIA

MI325X vs H200

MI325X 配备 256 GB 显存,对比 141 GB,带宽更高(6 vs 4.8 TB/s),稠密 FP8 也更强(2.6 vs 1.98 PF)。对于仅支持 CUDA 的技术栈,H200 是更稳妥的选择…

$2,299 vs $2,699 /GPU/⁠月 对比
NVIDIA

B200 vs H100

B200(Blackwell)的显存是 H100 的 2.25 倍(180 vs 80 GB),带宽为 2.4 倍(8 vs 3.35 TB/s),稠密 FP8 约为 2.3 倍(4.5 vs 1.98 PF),并且 F…

$4,449 vs $1,999 /GPU/⁠月 对比
NVIDIA

H100 vs L40S

H100 是训练型 GPU:80 GB HBM3、3.35 TB/s,稠密 FP8 达 1.98 PF,8 卡服务器内 GPU 之间通过 NVLink 互联。L40S 是一款 PCIe 推理…

$1,999 vs $849 /GPU/⁠月 对比
AMD vs NVIDIA

MI300X vs H200

MI300X 配备 192 GB HBM3、5.3 TB/s,而 H200 为 141 GB、4.8 TB/s;稠密 FP8 为 2.6 PF 对 1.98 PF,每月价格约低 35%…

$1,749 vs $2,699 /GPU/⁠月 对比
NVIDIA

B300 vs H200

B300(Blackwell Ultra)的显存约为 H200 的两倍(288 vs 141 GB),带宽为 1.7 倍(8 vs 4.8 TB/s),稠密 FP8 为 2.3 倍(4.5 vs 1.98 PF)…

$4,899 vs $2,699 /GPU/⁠月 对比
AMD vs NVIDIA

MI355X vs B200

MI355X 的显存是 B200 的 1.6 倍(288 vs 180 GB),带宽同为 8 TB/s,稠密 FP8(5.0 vs 4.5 PF)和 FP4(10.1 vs 9 PF)略高,而价格约低 45…

$2,449 vs $4,449 /GPU/⁠月 对比
AMD vs NVIDIA

MI355X vs H200

MI355X 领先 H200 一代:显存约为两倍(288 vs 141 GB),带宽为 1.7 倍(8 vs 4.8 TB/s),稠密 FP8 为 2.5 倍(5.0 vs 1.98…

$2,449 vs $2,699 /GPU/⁠月 对比
NVIDIA

RTX PRO 6000 vs H100

RTX PRO 6000 Blackwell 的显存比 H100 更大(96 vs 80 GB),并配备 FP4 Tensor Core,月价低 40%。H100 拥有约两倍的稠密…

$1,199 vs $1,999 /GPU/⁠月 对比

不确定哪款 GPU 合适?

根据您的模型选型:每个参数所需的显存、KV 缓存和微调开销,以及能够满足需求的配置。

Esc
↑↓ 选择↵ 打开Esc 关闭