按小时计费看起来很灵活:用多少付多少。按月计费看起来很死板:要为整个月付费。哪种更便宜,取决于一个数字——您的利用率,即一个月中 GPU 实际处于忙碌状态或为您保留的时间占比。
盈亏平衡公式
一个月约有 730 小时。若每小时价格为 h、月价为 m,那么只要您占用 GPU 超过 m ÷ h 小时,按月计费就更便宜。
由于 CoreGPU 的价格设定在市场中位价的约 75%(m ≈ 0.75 × 730 × h),相对于按需价格中位数,盈亏平衡点大约在 75% 的利用率,即每天约 18 小时。
各 GPU 的盈亏平衡点
| GPU | 中位价($/小时) | CoreGPU / 月 | 盈亏平衡点 | 每天 |
|---|---|---|---|---|
| H100 | 3.72 | $1,999 | 537 小时 | 17.7 小时 |
| H200 | 4.94 | $2,699 | 546 小时 | 18.0 小时 |
| B300 | 8.98 | $4,899 | 546 小时 | 17.9 小时 |
为什么实际利用率比看起来更高
大多数团队都低估了自己占用 GPU 的时长。在按小时计费的云上,您很少会在两次实验之间释放旗舰 GPU,因为无法保证还能重新拿到。实际上,以下时间都在计费:
- 训练任务或评估任务之间的夜晚和周末;
- 调试、性能分析以及修复数据加载问题;
- 上传检查点,以及故障后的重启;
- 必须全天候在线的推理服务。
从计费角度看,按月持有的服务器无论 GPU 在做什么,利用率都是 100%。
按需、抢占式、预留,还是按月
按小时计费并不只有一种价格。大多数 GPU 云会以三种按小时计费模式出售同一款 GPU,按月价格则与之并列:
| 型号 | 付费方式 | 代价 | 适用场景 |
|---|---|---|---|
| 按需 | 按小时或按秒计费,无需承诺用量 | 满负荷使用时费率最高,而且旗舰 GPU 经常无货 | 测试和短期实验 |
| 抢占式或可中断 | 使用闲置容量,按小时享受折扣费率 | 实例可能被临时收回 | 可重启的批处理任务 |
| 预留或承诺用量 | 签订 1 至 36 个月的合约可享更低费率,通常需通过销售洽谈 | 无论是否使用,都要为整个合约期付费 | 规模大、负载稳定的集群 |
| CoreGPU 按月租用 | 每 GPU 每月统一固定价格 | 即使 GPU 闲置,也要支付整月费用 | 训练、微调、24/7 推理 |
抢占式看起来是表中最便宜的一项,但实例一旦被收回,您会损失自上一个检查点以来完成的工作,还要花时间重新寻找算力。预留容量以长期合约换取固定价格;按月租用的服务器无需合约也能获得固定价格,而且您可以在任意一个月末停止。
什么情况下按小时计费更合适
请如实评估您的工作负载。对于短时突发需求,按小时计费更划算:例如为期两天的实验、每周一次的批处理任务或一次快速基准测试。如果您需要 GPU 的时间不到一个月的约三分之二,并且可以在间隙释放,那么按小时计费的服务商通常更便宜。
什么情况下按月更划算
- 持续一周或更长时间的训练,以及迭代式微调。
- 24/7 运行的生产推理服务。
- 需要常驻专用开发节点的团队。
- 任何需要提前确定的预算,例如科研经费或初创公司的资金跑道。



