GPU 对比
MI355X vs B200：规格、月价与选购建议
MI355X 的显存是 B200 的 1.6 倍（288 GB 对 180 GB），带宽同为 8 TB/s，稠密 FP8（5.0 PF 对 4.5 PF）和 FP4（10.1 PF 对 9 PF）算力略高，月价却低约 45%。B200 的 GPU 间互联更快（NVLink 5，1.8 TB/s 对 1.08 TB/s），并能运行所有仅支持 CUDA 的内核和 TensorRT-LLM。如果您的软件栈基于 ROCm，MI355X 每美元能提供更多显存和算力。
| 规格 | AMD Instinct MI355X | NVIDIA HGX B200 |
|---|---|---|
| 架构 | CDNA 4 | Blackwell |
| 显存 | 288 GB HBM3E | 180 GB HBM3e |
| 显存带宽 | 8 TB/s | 8 TB/s |
| FP8 稠密算力 | 5 PF | 4.5 PF |
| 稠密 FP4 | 10.1 PF | 9 PF |
| 互联 | Infinity Fabric · 1.08 TB/s | NVLink 5 · 1.8 TB/s |
| 功耗（TDP） | 1,400 W | 1,000 W |
| 每 GPU 月价 | $2,449 | $4,449 |
| 每 GB 显存价格 | $8.50 | $24.72 |
| 每 FP8 PFLOPS 价格 | $490 | $989 |
| 库存 | 21 块可用 | 11月20日到货 |
每行中更优的数值以绿色标出。价格均为 CoreGPU 每 GPU 每月价格，比市场中位价低至少 25%。
- 大模型与 KV 缓存：每 GPU 288 GB
- ROCm 软件栈：PyTorch、JAX、vLLM、SGLang
- Blackwell 级 FP8 算力，月价低得多
- 仅支持 CUDA 的内核与 TensorRT-LLM
- 通过 NVLink 5（1.8 TB/s）进行张量并行
- 已统一采用 NVIDIA 工具链的团队
MI355X vs B200：不同服务器规格的月价
| 服务器 | MI355X | B200 | 差价 |
|---|---|---|---|
| 1 块 GPU | $2,449/月 | $4,449/月 | MI355X 便宜 $2,000 |
| 2 块 GPU | $4,898/月 | $8,898/月 | MI355X 便宜 $4,000 |
| 4 块 GPU | $9,796/月 | $17,796/月 | MI355X 便宜 $8,000 |
| 8 块 GPU | $19,592/月 | $35,592/月 | MI355X 便宜 $16,000 |
每 GPU 固定月价，所有服务器规格均相同。以 USD 计价，不含税。
显存可容纳的最大模型
| 权重 | 1× MI355X | 1× B200 | 8× MI355X | 8× B200 |
|---|---|---|---|---|
| BF16 | 120B | 75B | 960B | 600B |
| FP8 | 240B | 150B | 1.9T | 1.2T |
| FP4 | 480B | 300B | 3.8T | 2.4T |
表中为预留 20% 激活值与运行时余量后，权重可装入显存的参数规模。长上下文和大批量需要为 KV 缓存预留更多空间：参见您需要多少显存。
MI355X vs B200：常见问题
已经是客户？请在控制台提交工单：工程师会在一个工作日内回复。
了解支持流程MI355X 比 B200 更快吗？
在稠密 FP8 Tensor 算力上，MI355X 更快：每 GPU 5 PF，而对方为 4.5 PF。MI355X 的显存带宽为 8 TB/s，B200 为 8 TB/s，而这一指标对 LLM 解码影响最大。
MI355X 与 B200 的月价相比如何？
在 CoreGPU，MI355X 为每 GPU 每月 $2,449，B200 为每 GPU 每月 $4,449，因此一台 8 卡服务器的月费分别为 $19,592 和 $35,592。MI355X 每 GPU 便宜 45%。两者价格均比市场中位价低至少 25%，按月从预付余额中扣费。
LLM 推理选 MI355X 还是 B200 更好？
对于大模型和长上下文，MI355X 凭借每 GPU 288 GB 显存更胜一筹，同一模型所需的 GPU 更少。大模型和 KV 缓存请选择 MI355X（每 GPU 288 GB）；仅支持 CUDA 的内核和 TensorRT-LLM 请选择 B200。
MI355X 和 B200 可以按月租用吗？
可以。两者都是按月租用的独享 GPU，每台服务器 1 至 8 块，并提供 root SSH 访问权限。目前 MI355X 有现货（21 块可用），B200 已售罄，11月20日补货。支持使用 BTC、ETH、XMR、USDT (TRC-20) 或 SOL 付款。