| 规格 | AMD Instinct MI300X | NVIDIA H200 SXM |
|---|---|---|
| 架构 | CDNA 3 | Hopper |
| 显存 | 192 GB HBM3 | 141 GB HBM3e |
| 显存带宽 | 5.3 TB/s | 4.8 TB/s |
| FP8 稠密算力 | 2.6 PF | 1.98 PF |
| 稠密 FP4 | n/a | n/a |
| 互联 | Infinity Fabric · 896 GB/s | NVLink 4 · 900 GB/s |
| 功耗（TDP） | 750 W | 700 W |
| 每 GPU 月价 | $1,749 | $2,699 |
| 每 GB 显存价格 | $9.11 | $19.14 |
| 每 FP8 PFLOPS 价格 | $673 | $1,363 |
| 库存 | 41 块可用 | 34 块可用 |
每行中更优的数值以绿色标出。价格均为 CoreGPU 每 GPU 每月价格，比市场中位价低至少 25%。
- 用更少的 GPU 部署 70B 至 180B 模型
- 5.3 TB/s 带宽，应对受显存带宽限制的解码
- ROCm 软件栈：PyTorch、vLLM、SGLang
$1,749 /GPU/月配置 MI300X
- 仅支持 CUDA 的内核与 TensorRT-LLM
- 针对 Hopper 调优的配方
- 已统一采用 NVIDIA 工具链的团队
$2,699 /GPU/月配置 H200
MI300X vs H200：不同服务器规格的月价
| 服务器 | MI300X | H200 | 差价 |
|---|---|---|---|
| 1 块 GPU | $1,749/月 | $2,699/月 | MI300X 便宜 $950 |
| 2 块 GPU | $3,498/月 | $5,398/月 | MI300X 便宜 $1,900 |
| 4 块 GPU | $6,996/月 | $10,796/月 | MI300X 便宜 $3,800 |
| 8 块 GPU | $13,992/月 | $21,592/月 | MI300X 便宜 $7,600 |
每 GPU 固定月价，所有服务器规格均相同。以 USD 计价，不含税。
显存可容纳的最大模型
| 权重 | 1× MI300X | 1× H200 | 8× MI300X | 8× H200 |
|---|---|---|---|---|
| BF16 | 80B | 58B | 640B | 470B |
| FP8 | 160B | 117B | 1.3T | 940B |
| FP4 | 320B | 235B | 2.6T | 1.9T |
表中为预留 20% 激活值与运行时余量后，权重可装入显存的参数规模。长上下文和大批量需要为 KV 缓存预留更多空间：参见您需要多少显存。
常见问题
MI300X vs H200：常见问题
已经是客户？请在控制台提交工单：工程师会在一个工作日内回复。
了解支持流程MI300X 比 H200 更快吗？
在稠密 FP8 Tensor 算力上，MI300X 更快：每 GPU 2.6 PF，而对方为 1.98 PF。MI300X 的显存带宽为 5.3 TB/s，H200 为 4.8 TB/s，而这一指标对 LLM 解码影响最大。
MI300X 与 H200 的月价相比如何？
在 CoreGPU，MI300X 为每 GPU 每月 $1,749，H200 为每 GPU 每月 $2,699，因此一台 8 卡服务器的月费分别为 $13,992 和 $21,592。MI300X 每 GPU 便宜 35%。两者价格均比市场中位价低至少 25%，按月从预付余额中扣费。
LLM 推理选 MI300X 还是 H200 更好？
对于大模型和长上下文，MI300X 凭借每 GPU 192 GB 显存更胜一筹，同一模型所需的 GPU 更少。如需用更少的 GPU 部署 70B 至 180B 模型，请选择 MI300X；仅支持 CUDA 的内核和 TensorRT-LLM 请选择 H200。
MI300X 和 H200 可以按月租用吗？
可以。两者都是按月租用的独享 GPU，每台服务器 1 至 8 块，并提供 root SSH 访问权限。目前 MI300X 有现货（41 块可用），H200 有现货（34 块可用）。支持使用 BTC、ETH、XMR、USDT (TRC-20) 或 SOL 付款。