B300
NVIDIA · Blackwell Ultra
288 GBHBM3e
8 TB/s带宽
4.5 PFFP8 稠密算力
$4,899 /GPU/月$6,552 · −25%
NVIDIA · Ada Lovelace · PCIe 4.0 · 每台服务器最多 8 块
NVIDIA L40S 按月租用。
NVIDIA L40S 是我们的入门级 GPU：基于 Ada Lovelace 架构，配备 48 GB GDDR6，稠密 FP8 算力 0.73 PF，月价为目录中最低。它是小模型推理、扩散模型和 3D 渲染的可靠之选。
48 GB每 GPU 的 GDDR6
864 GB/s显存带宽
0.73 PFFP8 稠密算力
PCIe 4.0 x16互联
简要回答 · 价格核查日期：2026年11月4日
在 CoreGPU 租用 NVIDIA L40S 的价格为每 GPU 每月 $849，约合每 GPU 小时 $1.16；8 卡服务器每月 $6,792，比市场中位价 $1,146 低 25%。只要每月使用 GPU 超过 541 小时（74%），按月租用就比按需更划算。库存：当前空闲 38 块 GPU。
为什么选择 L40S
L40S 最擅长的场景
- 48 GB GDDR6。可容纳 BF16 精度的 7B–13B 模型，或 8 位精度的 30B 模型。
- 最低月价。我们出租的独享数据中心 GPU 中最便宜的一款。
- 图形 + AI。RT Core 和 NVENC 让您在推理之外兼顾渲染与视频处理。
- 中小模型推理
- Stable Diffusion 与视频生成
- 3D 渲染、视觉特效与可视化
PCIe 4.0，每台服务器最多 8 张卡。非常适合部署在负载均衡器后、可横向扩展的推理服务。
价格
L40S 月价（按服务器规模）
每 GPU 统一固定价格，1 至 8 块 GPU 价格相同。市场中位价为专业 GPU 云服务商的公开按需标价 × 730 小时。
| 服务器 | CoreGPU / 月 | 市场中位价 / 月 | 节省 / 月 | 节省 / 年 | ≈ 每 GPU 小时 |
|---|---|---|---|---|---|
| 1× L40S | $849 | $297 | $3,564 | $1.16 | |
| 2× L40S | $1,698 | $594 | $7,128 | $1.16 | |
| 4× L40S | $3,396 | $1,188 | $14,256 | $1.16 | |
| 8× L40S | $6,792 | $2,376 | $28,512 | $1.16 |
价格以 USD 计，不含税。市场中位价基于专业 GPU 云服务商数据，核查于 2026年11月4日；不含超大规模云厂商。与 $1.57/GPU 小时的按需价格相比，每月使用超过 541 小时，按月价格就更划算。全部 GPU 价格
模型选型
L40S 服务器可运行哪些大模型
容纳各模型权重所需的 GPU 数量，已为激活值和运行时预留 20% 余量。一台 8 卡 L40S 服务器拥有 384 GB GDDR6 显存和 5.84 PF 稠密 FP8 算力，月价 $6,792。
384 GB每台 8 卡服务器的 GDDR6
5.84 PF每台服务器的稠密 FP8
$6,792每月，8× L40S
长上下文和大量并发请求需要额外的显存用于 KV 缓存：可参考您需要多少显存进行估算。4 位指 FP4 或 INT4 权重。
| 模型参数量 | BF16 | FP8 | 4 位 |
|---|---|---|---|
| Llama 3.1 8B 8B | 1 块 GPU | 1 块 GPU | 1 块 GPU |
| Qwen3 32B 32.8B | 2 块 GPU | 1 块 GPU | 1 块 GPU |
| Llama 3.3 70B 70.6B | 4 块 GPU | 2 块 GPU | 1 块 GPU |
| Mistral Large 2 123B | 8 块 GPU | 4 块 GPU | 2 块 GPU |
| Qwen3 235B-A22B 235B | 超过 8 块 | 8 块 GPU | 4 块 GPU |
| Llama 3.1 405B 405B | 超过 8 块 | 超过 8 块 | 8 块 GPU |
| DeepSeek-V3 / R1 671B | 超过 8 块 | 超过 8 块 | 超过 8 块 |
| Kimi K2 1T | 超过 8 块 | 超过 8 块 | 超过 8 块 |
| L40S | RTX PRO 6000 | |
|---|---|---|
| 架构 | Ada Lovelace | Blackwell |
| 显存 | 48 GB GDDR6 | 96 GB GDDR7 |
| 显存带宽 | 864 GB/s | 1.6 TB/s |
| FP8 稠密算力 | 0.73 PF | 1 PF |
| 稠密 FP4 | n/a | 2 PF |
| 互联 | PCIe 4.0 x16 | PCIe 5.0 x16 |
| 功耗（TDP） | 350 W | 600 W |
| 每 GPU 月价 | $849 | $1,199 |
| 每 GB 显存价格 | $17.69 | $12.49 |
| 每 FP8 PFLOPS 价格 | $1,163 | $1,199 |
| 库存 | 38 块可用 | 52 块可用 |
规格
NVIDIA L40S 技术规格
以下为厂商数据手册中的单 GPU 数据。Tensor 算力为稠密值（不含稀疏加速）。
| 型号 | NVIDIA L40S |
|---|---|
| 架构 | Ada Lovelace |
| 外形规格 | PCIe 4.0 · 每台最多 8 块 |
| 显存 | 48 GB GDDR6 |
| 显存带宽 | 864 GB/s |
| FP8 Tensor（稠密） | 0.73 PF |
| FP4 Tensor（稠密） | 不支持 |
| 互联 | PCIe 4.0 x16 |
| 功耗（TDP） | 350 W |
| 每台服务器 GPU 数量 | 1 至 8 |
| 库存 | 38 块可用 |
常见问题
L40S 租用：常见问题
已经是客户？请在控制台提交工单：工程师会在一个工作日内回复。
了解支持流程租用 NVIDIA L40S 每月多少钱？
CoreGPU 的价格为每 GPU 每月 $849，约合每 GPU 小时 $1.16，而市场中位价为 $1,146（$1.57/小时 × 730 小时）。一台完整的 8 卡服务器每月 $6,792，不含税。
L40S 现在有货吗？
有：当前批次共 128 块 GPU，其中 38 块可用。现货服务器在付款后 60 秒内交付，并提供 root SSH 权限。
我可以租用多少块 L40S GPU？
每台服务器可配 1 至 8 块 GPU，每 GPU 价格相同。这些是 PCIe 卡，按 GPU 数量扩展，而非通过 NVLink 扩展。需要更多？可租用多台服务器，或申请专属批次。
L40S 还是 RTX PRO 6000？
L40S 月价更低；RTX PRO 6000 显存翻倍并增加 FP4 支持，适合更大的模型。查看完整的 L40S vs RTX PRO 6000 对比。
L40S 服务器包含哪些内容？
独享 GPU（绝不共享或切分）、root SSH 权限、可选纯净操作系统或预装 CUDA、PyTorch 和 vLLM 的现成镜像、本地 NVMe 临时存储，以及无开通费的按月计费。
L40S 按月租用和按小时租用，哪个更便宜？
按市场中位价每 GPU 小时 $1.57 计算，只要您每月使用 GPU 超过 541 小时（即 74% 的时间，约每天 18 小时），按月租用就更便宜。训练任务、微调和全天候推理通常都会超过这条线；如果只是测试几个小时，按小时计费更划算。查看完整计算。
L40S 服务器是独享还是共享？
独享。在整个月租期内，您服务器中的 L40S GPU 只属于您：绝不会与其他客户共享、切分或分时复用，您可使用其全部 48 GB 显存和 PCIe 4.0 x16 带宽，并拥有服务器的 root SSH 访问权限。
可以用比特币、USDT 或门罗币支付 L40S 服务器吗？
可以。您可使用比特币（BTC）、以太坊（ETH）、门罗币（XMR）、TRON 网络上的 USDT（TRC-20）或 Solana（SOL）为美元余额充值，最低 $100，最高赠送 +30% 额度，服务器费用从该余额中扣除。无需银行卡。了解加密货币付款流程。
L40S 能运行 70B 模型吗？
只能运行量化版本：70B 模型在 4 位精度下约需 42 GB，一块 48 GB 的 L40S 即可装下；在 FP8 下约需 85 GB，需要两块；BF16 则需要四块。L40S 最擅长 7B 至 13B 模型、图像生成和渲染；对于 70B 及更大的模型，请考虑 H200 或 MI300X。