独享 GPU 服务器是指 GPU 只预留给单一客户的物理服务器。没有其他人共享、切分或分时使用这些 GPU：您可以获得它们的全部显存、全部互联带宽以及操作系统的 root 权限，通常按固定月价计费。它与租用一块 GPU 的一部分，或在共享云主机上按小时租用实例正好相反。
独享、云实例、GPU 切片还是算力市场
GPU 算力主要有四种售卖方式，区别在于哪些资源真正归您使用，以及如何计费。
| 型号 | 归您使用的资源 | 常见计费方式 | 适用场景 |
|---|---|---|---|
| 独享 GPU 服务器 | 整块 GPU 及其所在的整台服务器，含 root 权限 | 按月或更长周期 | 训练、微调、24/7 推理服务 |
| 云 GPU 实例 | 整块 GPU 直通给虚拟机；宿主机及其网络可能是共享的 | 按小时或按秒 | 弹性负载、短期实验 |
| GPU 切片 | 单块 GPU 的一个分区（如 NVIDIA MIG）或时间片 | 按小时 | Notebook、小模型、开发 |
| GPU 算力市场 | 由第三方主机商运营的机器，硬件和正常运行时间参差不齐 | 按小时，常为可中断 | 低成本、可重启的任务 |
“独享”在实际中意味着什么
- 性能可预期。没有其他租户争用这些 GPU、它们的显存带宽或 GPU 之间的链路，因此第一天跑出的基准测试结果，到第三十天依然成立。
- 完整的互联。在 8 卡 NVIDIA HGX 或 AMD Instinct 服务器上，每块 GPU 都通过 NVLink 或 Infinity Fabric 与其他 GPU 通信。张量并行和流水线并行都依赖这一带宽；切分后的 GPU 或仅支持 PCIe 的配置无法提供这种带宽。
- 掌控软件栈。拥有 root 权限，您可以自行选择操作系统、驱动、CUDA 或 ROCm 版本以及容器运行时，还可以安装性能分析工具和自定义内核。
- 数据隔离。模型和数据集存放在只有您的服务器使用的本地磁盘上。正规的服务商会在更换客户时擦除这些磁盘。
- 成本固定。月价让 GPU 支出成为预算中一项确定的开支，任务暂停时也不会有计费表在走。
裸金属还是虚拟机？
独享服务器可以以裸金属形式交付，也可以是 GPU 直通的单租户虚拟机。对 GPU 计算而言，两者的性能差距很小，因为无论哪种方式，计算都由 GPU 完成。区别在于控制权：在裸金属上，内核、驱动和固件级设置都由您自己管理；在虚拟机上，虚拟化层由服务商控制，有时驱动版本也是。如果您依赖特定的内核模块、GPU 拓扑工具或底层性能分析，请事先询问您将获得哪一种。
租用前需要确认什么
- GPU 型号与显存。HBM GPU（H100、H200、B200、B300 和 AMD Instinct）的显存带宽为 3.35 至 8 TB/s；GDDR 显卡（L40S、RTX PRO 6000）为 0.86 至 1.6 TB/s，更适合推理和图形任务，而非大型训练任务。显存容量决定了您能加载的最大模型：参见需要多少 GPU 显存。
- 互联。8 卡基板上的 SXM 和 OAM GPU 通过 NVLink 或 Infinity Fabric 互联，每块 GPU 的带宽为 0.9 至 1.8 TB/s。PCIe 卡通过 PCIe 交换数据：每块 GPU 运行一个模型没有问题，但多 GPU 训练会更慢。
- 主机 CPU、内存与本地 NVMe。数据加载、分词和检查点保存都在主机上进行。请询问每块 GPU 对应的 CPU 核数、系统内存和 NVMe 容量。
- 网络。确认带宽大小、是否包含流量，以及是否提供用于 SSH 和对外服务的公网 IPv4 地址。
- 镜像与驱动。预装 CUDA 或 ROCm、PyTorch 和 vLLM 的现成镜像，能在每台新服务器上为您省下最初的一个小时。
- 计费与承诺。关注每 GPU 每月价格、续费时的规则，以及能否在任意月末停用。
- 支持与安全。GPU 故障时由谁响应、硬件多久能更换，以及客户之间如何擦除磁盘。
长时间运行任务之前，请先验证您收到的服务器：8 卡服务器检查清单涵盖 GPU 健康状况、拓扑、集合通信带宽和简短的烤机测试。
独享 GPU 服务器的价格是多少？
独享 GPU 服务器通常按每 GPU 每月定价。以下为 CoreGPU 价格及对应的市场中位价（专业 GPU 云服务商的按需标价，按 730 小时计算）：
| GPU | 显存 | 每 GPU/月 | 8 卡服务器/月 | 市场中位价 / GPU |
|---|---|---|---|---|
| NVIDIA B300 | 288 GB HBM3e | $4,899 | $39,192 | $6,552 |
| NVIDIA B200 | 180 GB HBM3e | $4,449 | $35,592 | $5,979 |
| AMD MI355X | 288 GB HBM3E | $2,449 | $19,592 | $3,285 |
| AMD MI350X | 288 GB HBM3E | $2,249 | $17,992 | $3,022 |
| NVIDIA H200 | 141 GB HBM3e | $2,699 | $21,592 | $3,606 |
| AMD MI325X | 256 GB HBM3E | $2,299 | $18,392 | $3,071 |
| AMD MI300X | 192 GB HBM3 | $1,749 | $13,992 | $2,351 |
| NVIDIA H100 | 80 GB HBM3 | $1,999 | $15,992 | $2,716 |
| NVIDIA RTX PRO 6000 | 96 GB GDDR7 | $1,199 | $9,592 | $1,599 |
| NVIDIA L40S | 48 GB GDDR6 | $849 | $6,792 | $1,146 |
单位为 USD，不含税。价格核查于 2026年11月4日；实时价格和库存请见价格页面。
一旦您每月使用 GPU 的时间超过约 540 小时（大约每天 18 小时），按月计费就比按小时计费更划算。完整计算见按小时与按月租用 GPU 对比。
何时适合选择独享 GPU 服务器
- 持续数天或数周的训练或微调任务。
- 需要全天候在线、延迟稳定的推理服务。
- 需要 8 卡节点完整 NVLink 或 Infinity Fabric 带宽的任务。
- 不应放在共享主机上的敏感模型或数据。
- 预先确定的预算，例如科研经费或初创公司的资金跑道。
何时不适合
如果只是几个小时的测试、一次性基准测试，或在小模型上跑 Notebook，按小时计费的实例或 GPU 切片更便宜。只有当 GPU 在一个月的大部分时间里都处于繁忙状态时，独享服务器才物有所值。
CoreGPU 的独享 GPU 服务器
CoreGPU 按月出租配备 1 至 8 块 GPU 的 NVIDIA 和 AMD 独享 GPU 服务器，价格比市场中位价低至少 25%，提供 SSH root 权限、本地 NVMe 以及现成的 CUDA 或 ROCm 镜像。您可通过 BTC、ETH、XMR、USDT（TRC-20）或 SOL 充值的预付余额付款。查看所有 GPU 及其实时库存，或并排比较两款 GPU。
