B300
NVIDIA · Blackwell Ultra
288 GBHBM3e
8 TB/s带宽
4.5 PFFP8 稠密算力
$4,899 /GPU/月$6,552 · −25%
AMD · CDNA 3 · OAM · 8-GPU UBB
AMD Instinct MI300X 按月租用。
AMD Instinct MI300X 配备 192 GB HBM3，带宽 5.3 TB/s，稠密 FP8 算力 2.6 PF，月价在我们目录的所有 HBM GPU 中最低。它是部署 70B 至 405B 模型推理服务的高性价比方案。
192 GB每 GPU 的 HBM3
5.3 TB/s显存带宽
2.6 PFFP8 稠密算力
Infinity Fabric互联
简要回答 · 价格核查日期：2026年11月4日
在 CoreGPU 租用 AMD Instinct MI300X 的价格为每 GPU 每月 $1,749，约合每 GPU 小时 $2.40；8 卡服务器每月 $13,992，比市场中位价 $2,351 低 25%。只要每月使用 GPU 超过 543 小时（74%），按月租用就比按需更划算。库存：当前空闲 41 块 GPU。
为什么选择 MI300X
MI300X 最擅长的场景
- 192 GB HBM3。显存是 H100 的 2.4 倍，月价却更低。
- 5.3 TB/s 带宽。高于 H200，非常适合受显存带宽限制的解码。
- 价格最低的 HBM GPU。我们配备高带宽显存的 GPU 中最便宜的一款，每月 $1,749 起。
- 70B–405B 模型推理
- 批量嵌入与 RAG
- 对成本敏感的微调
vLLM、SGLang、PyTorch 和 JAX 可在 ROCm 上原生运行；我们的 ROCm 镜像开箱即用。
价格
MI300X 月价（按服务器规模）
每 GPU 统一固定价格，1 至 8 块 GPU 价格相同。市场中位价为专业 GPU 云服务商的公开按需标价 × 730 小时。
| 服务器 | CoreGPU / 月 | 市场中位价 / 月 | 节省 / 月 | 节省 / 年 | ≈ 每 GPU 小时 |
|---|---|---|---|---|---|
| 1× MI300X | $1,749 | $602 | $7,224 | $2.40 | |
| 2× MI300X | $3,498 | $1,204 | $14,448 | $2.40 | |
| 4× MI300X | $6,996 | $2,408 | $28,896 | $2.40 | |
| 8× MI300X | $13,992 | $4,816 | $57,792 | $2.40 |
价格以 USD 计，不含税。市场中位价基于专业 GPU 云服务商数据，核查于 2026年11月4日；不含超大规模云厂商。与 $3.22/GPU 小时的按需价格相比，每月使用超过 543 小时，按月价格就更划算。全部 GPU 价格
模型选型
MI300X 服务器可运行哪些大模型
容纳各模型权重所需的 GPU 数量，已为激活值和运行时预留 20% 余量。一台 8 卡 MI300X 服务器拥有 1,536 GB HBM3 显存和 20.8 PF 稠密 FP8 算力，月价 $13,992。
1,536 GB每台 8 卡服务器的 HBM3
20.8 PF每台服务器的稠密 FP8
$13,992每月，8× MI300X
长上下文和大量并发请求需要额外的显存用于 KV 缓存：可参考您需要多少显存进行估算。4 位指 FP4 或 INT4 权重。
| 模型参数量 | BF16 | FP8 | 4 位 |
|---|---|---|---|
| Llama 3.1 8B 8B | 1 块 GPU | 1 块 GPU | 1 块 GPU |
| Qwen3 32B 32.8B | 1 块 GPU | 1 块 GPU | 1 块 GPU |
| Llama 3.3 70B 70.6B | 1 块 GPU | 1 块 GPU | 1 块 GPU |
| Mistral Large 2 123B | 2 块 GPU | 1 块 GPU | 1 块 GPU |
| Qwen3 235B-A22B 235B | 4 块 GPU | 2 块 GPU | 1 块 GPU |
| Llama 3.1 405B 405B | 8 块 GPU | 4 块 GPU | 2 块 GPU |
| DeepSeek-V3 / R1 671B | 超过 8 块 | 8 块 GPU | 4 块 GPU |
| Kimi K2 1T | 超过 8 块 | 8 块 GPU | 4 块 GPU |
对比
MI300X vs H100
MI300X 拥有 192 GB 显存（对方为 80 GB），FP8 算力更高，价格却更低；如果您依赖仅支持 CUDA 的内核，H100 才是首选。
| MI300X | H100 | |
|---|---|---|
| 架构 | CDNA 3 | Hopper |
| 显存 | 192 GB HBM3 | 80 GB HBM3 |
| 显存带宽 | 5.3 TB/s | 3.35 TB/s |
| FP8 稠密算力 | 2.6 PF | 1.98 PF |
| 稠密 FP4 | n/a | n/a |
| 互联 | Infinity Fabric · 896 GB/s | NVLink 4 · 900 GB/s |
| 功耗（TDP） | 750 W | 700 W |
| 每 GPU 月价 | $1,749 | $1,999 |
| 每 GB 显存价格 | $9.11 | $24.99 |
| 每 FP8 PFLOPS 价格 | $673 | $1,010 |
| 库存 | 41 块可用 | 仅剩 3 块 |
规格
AMD Instinct MI300X 技术规格
以下为厂商数据手册中的单 GPU 数据。Tensor 算力为稠密值（不含稀疏加速）。
| 型号 | AMD Instinct MI300X |
|---|---|
| 架构 | CDNA 3 |
| 外形规格 | OAM · 8-GPU UBB |
| 显存 | 192 GB HBM3 |
| 显存带宽 | 5.3 TB/s |
| FP8 Tensor（稠密） | 2.6 PF |
| FP4 Tensor（稠密） | 不支持 |
| 互联 | Infinity Fabric · 896 GB/s |
| 功耗（TDP） | 750 W |
| 每台服务器 GPU 数量 | 1 至 8 |
| 库存 | 41 块可用 |
常见问题
MI300X 租用：常见问题
已经是客户？请在控制台提交工单：工程师会在一个工作日内回复。
了解支持流程租用 AMD Instinct MI300X 每月多少钱？
CoreGPU 的价格为每 GPU 每月 $1,749，约合每 GPU 小时 $2.40，而市场中位价为 $2,351（$3.22/小时 × 730 小时）。一台完整的 8 卡服务器每月 $13,992，不含税。
MI300X 现在有货吗？
有：当前批次共 96 块 GPU，其中 41 块可用。现货服务器在付款后 60 秒内交付，并提供 root SSH 权限。
我可以租用多少块 MI300X GPU？
每台服务器 1 至 8 块 GPU，每 GPU 价格相同。8 卡服务器配备完整的 Infinity Fabric 全互联。需要更多？可租用多台服务器，或申请专属批次。
选 MI300X 还是 H100？
MI300X 拥有 192 GB 显存（对方为 80 GB），FP8 算力更高，价格却更低；如果您依赖仅支持 CUDA 的内核，H100 才是首选。查看完整的 MI300X vs H100 对比。
MI300X 服务器包含哪些内容？
独享 GPU（绝不共享或切分）、root SSH 权限、可选纯净操作系统或预装 ROCm、PyTorch 和 vLLM 的现成镜像、本地 NVMe 临时存储，以及无开通费的按月计费。
MI300X 按月租用和按小时租用，哪个更便宜？
按市场中位价每 GPU 小时 $3.22 计算，只要您每月使用 GPU 超过 543 小时（即 74% 的时间，约每天 18 小时），按月租用就更便宜。训练任务、微调和全天候推理通常都会超过这条线；如果只是测试几个小时，按小时计费更划算。查看完整计算。
MI300X 服务器是独享还是共享？
独享。您服务器中的 MI300X GPU 在整个月内只属于您：绝不与其他客户共享、分区或分时复用，您可使用其全部 192 GB 显存和 Infinity Fabric 带宽，并拥有服务器的 root SSH 权限。
可以用比特币、USDT 或门罗币支付 MI300X 服务器吗？
可以。您可使用比特币（BTC）、以太坊（ETH）、门罗币（XMR）、TRON 网络上的 USDT（TRC-20）或 Solana（SOL）为美元余额充值，最低 $100，最高赠送 +30% 额度，服务器费用从该余额中扣除。无需银行卡。了解加密货币付款流程。
MI300X 适合 LLM 推理吗？
适合，尤其是大模型：每 GPU 配备 192 GB HBM3，带宽 5.3 TB/s，即使在 BF16 精度下，单块 MI300X 也能装下 70B 模型；一台 8 卡服务器的显存总量达 1.5 TB。vLLM 和 SGLang 均支持 ROCm，CoreGPU 服务器可以从预装二者的现成 ROCm 镜像启动。