NexGPU-算力租赁,GPU服务器,GPU云算力,AI服务器租用-新闻博客 - 默认分类
type: channel
link: https://nexgpu.net/blog/index.php/category/1/
description: 只是一个默认分类
items: Qwen2.5-72B多卡量化部署教程：4步完成
items: H100与H200推理性能对比：差距在带宽不在算力
items: vLLM多卡张量并行配置指南：TP设多少与5步排查
items: GPU利用率优化怎么做？5步定位算力空转真原因
items: RTX 4090多卡与A100单卡训练选型怎么定？4步判定
items: Qwen部署要多少显存？72B/32B 双卡分账指南
items: L40S租用值不值？对比A100算清推理成本
items: 多卡推理优化怎么做？加卡前先算通信税的6个判据
items: GPU显存怎么选？4步算清权重与KV Cache占用
items: H100租用多少钱一小时？5个该不该租的自查条件

Qwen2.5-72B多卡量化部署教程：4步完成
type: item
date: 2026-08-20T10:47:10+08:00
description: Qwen2.5-72B多卡量化部署教程可以压缩成四步：按卡型倒推量化档位 → 定 tensor parallel size → 写启动参数 → 用自建对照集验证。开源主力模型在企业端加速落地，显存分账成为部署核心矛盾。动手前先打开终端执行 nvidia-smi，记下卡数、单卡显存与卡间互联方式。FP16 精度下 72B 权重加运行时开销大约需要 140GB+ 显存，通常要双卡 80GB（如 A100/H100）配合 TP=2 才装得下；而改用 AWQ-INT4 或 FP8 量化后，整体占用可降到 40GB–48GB，这让双卡 24GB/32GB 或单卡 80GB 成为可行起点。开始前的自查：你手上的卡决定了能选哪一档开始前先回答三个问题：几张卡？单卡多少显存？卡间是否同型号、同 PCIe/NVLink 互联？双卡 24GB（合计 48GB）：只能跑量化档，且必须 TP=2。双卡 32GB（合计 64GB）：量化档下余量较宽裕。单卡 80GB（如 A100/H100）：量化档可跑 TP=1；若坚持 FP16 则仍不够。卡型不一致会导致 TP 切分失效，vLLM 启动时直接报错。显存对照表：量化档位与卡型的匹配下表是量化档位、显存量级与适配卡型的对应关系，数字用于选型推算，不是任何具体卡上的实测峰值，请以你本地实际复测为准。量级数字只在表中出现一次，之后不再重复。量化档位显存量级（权重+运行）适配卡型TP 建议FP16约 140GB+双卡 80GB（A100/H100）TP=2AWQ-INT4 或 FP8约 40–48GB双卡 24GB/32GB，或单卡 80GB双卡必须 TP=2；单卡可 TP=1更细的选型核算可参考 GPU显存怎么选。第一步：选量化格式——AWQ-INT4 与 FP8 的取舍逻辑量化格式没有绝对优劣，按四个判据选：显存余量：INT4 通常压得更狠，给 KV Cache 留出的空间更大；FP8 精度保留更好，但占用略高。硬件支持：FP8 依赖 GPU 与推理引擎两端的低精度支持，同代卡在不同引擎上的可用性差异较大，以本地引擎的 help 输出与一次最小启动试跑确认，不要按架构名推断。权重现成性：社区是否已有对应格式的量化权重？用现成的省去自行量化时间，但必须确认格式与引擎匹配。任务敏感度：代码生成、数学推理等对精度敏感的任务，建议先试 FP8；普通对话可用 INT4。两条回退路线：若量化后质量不达标，先换回 FP8 或混合精度；若显存不足，再降并发或序列长度。第二步：定 TP 切分——量化后能不能把 tensor parallel size 从 2 降回 1TP 设置有两个硬性规则：必须等于实际可见卡数，且必须能整除注意力头数（例如 72B 模型头数通常为 64，因此 TP 可取 1、2、4、8、16）。单卡 80GB 量化后占用 40–48GB，可尝试 TP=1，省去卡间通信开销，提升小 batch 下的响应速度。双卡 24/32GB 必须 TP=2，且两卡必须同型号、同互联，否则性能下降甚至报错。长上下文（如 32K tokens）或高并发时，KV Cache 可能顶爆单卡，此时即便单卡 80GB 也可能被迫升 TP=2。判断依据是：先估算峰值 KV Cache 大小（随序列长度 × 并发数线性增长），加上权重占用，不超过单卡显存的 90% 才可考虑 TP=1。更完整的配置可参考 vLLM多卡张量并行配置指南。第三步：写启动参数——显存利用率、最大序列长度与 KV Cache 的调整次序Qwen2.5-72B多卡量化部署教程里最容易反复返工的就是这一步。启动参数不是一次性写对的，要按顺序调整：固定模型路径与量化格式（如 --quantization awq 或 --quantization fp8）。设 TP：--tensor-parallel-size 2。设显存利用率上限：例如 --gpu-memory-utilization 0.9，先留 10% 余量。压最大序列长度与并发数：--max-model-len 和 --max-num-seqs，先给保守值（如 4096 context、4 并发），逐步上调。这几个参数互相挤占同一块显存，一次只改一个，改完重启验证。具体参数名以你本地 vLLM 的 --help 输出为准，不同版本可能有差异。第四步：验证——自建对照集看输出退化，同请求分布看吞吐量化后不能假设能力与 FP16 无差异，必须自建对照集验证。准备 30–50 条提示词，覆盖你真实业务场景（如代码、摘要、客服问答）。跑两轮：量化版一轮，FP16 版（或用在线基准模型）一轮，参数一致。人工 + 规则比对：看关键字段、语法、逻辑是否退化。测吞吐：用相同的请求分布压测，记录吞吐、TTFT、显存峰值。若退…

H100与H200推理性能对比：差距在带宽不在算力
type: item
date: 2026-08-19T10:49:09+08:00
description: 当你把 70B 模型部署到推理服务，却发现单卡显存装不下、双卡通信又拖慢延迟时，你真正需要对比的并不是 H100 与 H200 的算力数字，而是两者存储子系统的差距。H100与H200推理性能对比的核心结论是：两者算力完全相同，差距集中在显存容量与带宽——H200 的 141GB HBM3e 和 4.8TB/s 带宽，决定了它在大模型、长上下文、高并发场景下的吞吐优势，而在小模型短上下文中几乎没有差别。同核心同算力：3,958 TFLOPS FP8 完全一致意味着什么先说一个反直觉的事实：NVIDIA H200 与 H100 SXM 采用完全相同的 Hopper 架构 GH100 核心与第 4 代 Tensor Core，两者的 FP8 峰值算力完全一致，均为 3,958 TFLOPS，NVLink 带宽同为 900 GB/s。这直接回答了“H100和H200算力一样吗”——是的，算力完全一样，H200 并不是算力升级版。这意味着在 Prefill 阶段，H200 不会有任何优势。参数H100 SXMH200 SXM架构核心GH100（Hopper）GH100（Hopper）FP8 峰值算力3,958 TFLOPS3,958 TFLOPS显存容量80GB HBM3141GB HBM3e显存带宽3.35 TB/s4.8 TB/sNVLink 带宽900 GB/s900 GB/s真正的变量：141GB vs 80GB、4.8 TB/s vs 3.35 TB/s 改写了哪一段负载既然算力相同，性能差异就完全来自存储子系统：显存容量提升 76%（80GB→141GB），带宽提升 43%（3.35 TB/s→4.8 TB/s）。这两个数字分别改写不同的负载环节：容量决定能否把模型权重与 KV Cache 完整放进单卡。70B FP16 权重约需 140GB，H100 80GB 必须多卡并行，而 H200 141GB 可以单卡承载。带宽决定 Decode 阶段逐 Token 生成时把全量权重与 KV Cache 搬运进核心的速度。所以，“H200显存带宽4.8TB/s有什么用”的答案在于：它直接压缩了 Decode 阶段的内存搬运阻塞，提升逐 Token 生成速度（TPOT）。Memory-bound 与 Compute-bound：怎么判断自己的推理属于哪一类要判断“推理是算力瓶颈还是带宽瓶颈怎么判断”，需要先理解 LLM 推理的两个阶段：Prefill（输入处理）：并行计算矩阵乘法，算术强度高，属于 Compute-bound（算力受限），此时 H100 与 H200 首字延迟（TTFT）基本一致。Decode（逐 Token 生成）：每生成一个 Token 都要把全量权重和 KV Cache 载入核心，算术强度极低，属于 Memory-bound（带宽受限），此时 H200 的优势开始显现。实际业务中，负载通常混合两种情况。你可以按以下顺序自查：统计平均输入长度与输出长度：若输出长度远大于输入，Decode 占比高，大概率是带宽瓶颈。观察并发 Batch 大小：大 Batch 会放大带宽需求，更容易进入 Memory-bound。监控 KV Cache 峰值占用：接近显存上限时，容量优势变得关键。测量 TTFT 与 TPOT：TTFT 慢而 TPOT 快，说明是算力受限；反之则是带宽受限。H200比H100快多少：30%~90%提升出现在什么条件下回到H100与H200推理性能对比的量化问题：网上流传的H200比H100快30%~90%的说法，必须在特定条件下才成立。在 70B+ 大模型、大并发请求、长上下文输出（KV Cache 占用高）等 Memory-bound 场景下，H200 实测吞吐可提升 30%~90%（MLPerf 吞吐可达 1.4x~1.9x）。但在小模型（如 7B/8B）、小并发 Batch 或以超长 Prompt 输入为主的 Prefill 受限场景下，H200 的吞吐提升趋近于零，甚至因为时租更高而显得不划算。负载特征预期提升幅度瓶颈类型70B+ 模型、大 Batch、长上下文30%~90%Memory-bound（带宽）7B/8B 模型、小 Batch、短上下文接近 0%Compute-bound（算力）超长 Prompt、短输出接近 0%Compute-bound（Prefill）拓扑简化的隐性收益：单卡承载 70B FP16 省掉的 TP 通信开销70B FP16 模型权重约需 140GB 显存，H100 80GB 无法单卡加载，必须通过双卡或多卡张量并行（TP=2/4）部署；而 H200 凭借 141GB HBM3e 可实现单卡承载，彻底省去跨卡通信（All-Reduce）带来的网络开销与拓扑复杂性。…

vLLM多卡张量并行配置指南：TP设多少与5步排查
type: item
date: 2026-08-18T10:50:07+08:00
description: 先给结论：vLLM多卡张量并行配置指南的参数决定顺序很多人以为把 --tensor-parallel-size 调得越大，多卡推理就一定越快，但实际上 TP 设多少要由显存分账和模型注意力头数共同决定，不是越大越好。正确的思路是：先按四笔显存账算出 TP 下限，再按注意力头数整除约束和卡间互联确定上限，然后依次调整 --gpu-memory-utilization、--max-model-len 和 KV Cache 精度，最后做同请求分布的对照验证。vLLM 官方文档明确，单机多卡优先用张量并行，跨节点才叠加流水线并行，以避免低速网络拖累高频通信官方并行文档。本文就以这套顺序，给你一份可直接照做的 vLLM多卡张量并行配置指南。第一步：四笔显存账算出 TP 下限启动 vLLM 时，显存分配遵循固定顺序：先加载模型权重，再执行一次 dummy forward 探测中间激活，最后按 --gpu-memory-utilization（默认约 0.90-0.92）把剩余显存划给 PagedAttention 的 KV Cache 池。因此，你至少要几张卡，取决于四笔账：权重、KV Cache、中间激活、引擎常驻开销。估算方法很简单：先拿单卡总显存乘以 --gpu-memory-utilization，得到可用显存；然后用模型权重大小加上预期 KV Cache 占用（与最大上下文长度和并发数相关）除以单卡可用显存，向上取整就是 TP 的下限。中间激活与引擎常驻开销的实际占用需以本机 Profiling 结果为准，建议先按保守估计预留余量、再用实际启动日志中的 KV Cache 块数回填修正。若可用显存与需求接近，应在同一模型上分别试跑相邻两档 TP，以启动日志与压测结果决定取哪一档。具体模型的权重与 KV Cache 量级可参考 Qwen部署显存需求 。第二步：注意力头数整除约束与卡间互联，决定 TP 上限TP 不是想设几就设几。vLLM 要求模型的总 Query 头数以及 GQA 架构下的 KV 头数都必须能被 --tensor-parallel-size 整除，否则初始化阶段会直接抛维度切分断言异常，服务起不来。例如一个 Query 头数为 32 的模型可以被 2、4、8 整除，但不能被 3、5、6 整除，所以 TP=3/5/6 这类取值在多数主流架构上不可用；上线前请以自己模型 config 中的 num_attention_heads 与 num_key_value_heads 逐一验算。另一个上限是卡间互联带宽。张量并行依赖高速总线（如 NVLink）做算子级切分和 All-Reduce 通信，如果你用的是 PCIe 互联的卡，跨卡通信开销会显著拉低性能，此时 TP 不宜设得过高。因此，TP 上限 = min(满足头数整除的最大值, 互联带宽允许的切分数)。关于跨卡通信与切分收益的更多实测思路，可参考 多卡推理优化。第三步：TP 与 PP 怎么分工，什么时候才动用跨节点流水线--tensor-parallel-size 和 --pipeline-parallel-size 的分工很清晰：单机内优先把 TP 拉满（TP=单机卡数），因为 NVLink 带宽高；当模型超过单机总显存时，再叠加跨节点的 PP，通常 PP=节点数。这样组合可以避免跨节点低速网络承载高频张量通信。一个常见的误配是单机内滥用 PP——明明卡间有高速互联，却切成 PP，导致流水线气泡降低利用率。另一个误配是跨节点强行切 TP，让 All-Reduce 走慢速网络，吞吐直接崩掉。所以跨节点时，正确做法是每台机器内部满切 TP，再跨节点切 PP。需要说明的是，千亿级 MoE 模型在跨节点部署下的 Expert Parallelism 与 TP/PP 三维混合切分比例，目前各硬件平台仍在动态演进，本文的 TP/PP 组合结论只覆盖稠密模型的单机与多机常规拓扑，不对 MoE 最优切分给定论。启动命令示例：# 单机 4 卡，TP=4 vllm serve your-model --tensor-parallel-size 4 # 跨 2 节点，每节点 4 卡，TP=4，PP=2 vllm serve your-model --tensor-parallel-size 4 --pipeline-parallel-size 2第四步：gpu-memory-utilization 与 max-model-len 的调整次序这两个参数都在改同一个 KV Cache 池，所以必须按顺序调，一次只动一个。--gpu-memory-utilization 决定池子多大（默认 0.90-0.92），--max-model-len 决定单请求预留多长的逻辑上下文。如果你直接把 --m…

GPU利用率优化怎么做？5步定位算力空转真原因
type: item
date: 2026-08-17T10:50:44+08:00
description: GPU利用率优化不是把利用率数字拉高，而是先打开监控面板，把 GPU 利用率、请求排队时长和前缀缓存命中率三个指标并列出来，再按下面的顺序排查：利用率数字→排队→带宽→重复计算→引擎选型。只看 nvidia-smi 的静态占用已经不够，需要结合请求分布和引擎参数做系统化判断。先给结论：GPU利用率优化的排查顺序是什么第一步，确认你看到的“利用率”数字到底代表什么；第二步，看请求是否在排队等待，导致 GPU 空闲；第三步，看是否因为显存带宽受限，导致利用率高但有效 Token 产出不涨；第四步，看是否有重复计算（比如前缀重复计算和 Preemption 重算）；最后一步，才考虑是否需要更换推理引擎。2026 年下半年的评测与观测实践（如 DeepInfra、Spheron 等机构的基准）反复证明，仅靠 nvidia-smi 的利用率百分比无法区分“真空转”“假满载”和“算了没产出”这三类问题。三种「利用率不好看」：真空转、假满载、算了没产出类型典型表现根因排查重点真空转GPU 利用率低，算力空置请求排队、批处理不足排队时长、并发设置假满载利用率 100% 但吞吐不涨Decode 阶段显存带宽受限显存带宽、KV Cache 命中率算了没产出利用率高但有效 Token 产出低前缀重复计算、Preemption 重算前缀缓存命中率、抢占次数很多人误以为把 GPU 利用率拉满到 100% 就能线性提升吞吐，但实际上当 KV Cache 不足触发 Preemption（抢占并重算）时，GPU 可能满载但有效 Token 产出并未提升。第一步：确认利用率数字本身的含义，该看哪些指标GPU利用率优化的第一件事，是确认 nvidia-smi 显示的数字到底代表什么。nvidia-smi 显示的 GPU 利用率反映的是 SM（流处理器）是否有 kernel 在跑，并不代表算力被有效使用。要判断是否存在“算力空转”，需要结合以下细粒度指标交叉验证：指标含义用途vllm:request_queue_time_seconds请求排队等待时间判断是否因排队导致 GPU 空闲prefix cache hit rate前缀缓存命中率判断重复计算占比preemption 计数抢占次数发现因 KV Cache 不足导致的重算这些指标可通过 Prometheus 采集，例如 vLLM 内置了相关的 metrics。如果你发现排队时间高但 GPU 利用率低，说明请求到达不均匀或并发设置偏小；如果利用率高但排队时间也高，可能是调度问题。第二步：估算请求分布的前缀重合度，60% 这条线为什么关键打开你的线上日志，统计请求之间的共享前缀比例——比如系统提示词、RAG 检索块、多轮对话历史等经常重复的部分。计算所有请求中前缀重复的比例，当这个值超过 60% 时，就值得考虑采用具备前缀复用能力的引擎。这个 60% 的量化边界来自 2026 年的受控基准测试（如 DeepInfra 与 Spheron 的对比评测），而非营销口径。第三步：前缀重合度高时怎么优化，可预期收益是多少如果你的场景前缀重合度超过 60%（比如典型的 RAG 应用），使用 SGLang 的 RadixAttention 相比 vLLM 可以降低 20%~40% 的首字延迟（TTFT）。注意，这是 TTFT 的改善，并不代表总吞吐翻倍。该结果来自控制模型、精度与并发梯度的受控基准，仅在前缀重合度 >60% 时成立，且只体现在 TTFT，不代表总吞吐同幅提升。在多轮对话和 RAG 这类前缀重合高的场景中，首字延迟对用户体验影响很大。这里可以结合 SGLang部署 一文了解实际部署要点。第四步：前缀重合度低时别急着换引擎，先调参数如果前缀重合度低于 60%，甚至独立 Prompt 占多数，两个引擎的吞吐差距在 5% 以内，此时迁移引擎的成本可能高于收益。该差距同样基于受控对照，建议用你自己的请求分布回放复现后再下结论。优先调整 vLLM 参数：例如 --gpu-memory-utilization 默认是 0.9，即分配 90% 显存给模型权重和 KV Cache，保留 10% 缓冲防止 CUDA Graph 及临时张量溢出触发 OOM。如果 KV Cache 空间不足频繁触发 Preemption 重算，可以适当调大这个比例，或者降低 max_num_seqs、max_num_batched_tokens 来减少并发压力。注意，max_num_seqs 和 max_num_batched_tokens 的调整方向相反：调大 max_num_seqs 可提高批处理能力、降低排队时长，但会增加显存压力、可能引发更多 Preemption；反之调小这两个参数会减少并发、降低 Preemption 次数，但可能拉长排…

RTX 4090多卡与A100单卡训练选型怎么定？4步判定
type: item
date: 2026-08-16T10:56:56+08:00
description: RTX 4090多卡与A100单卡训练选型的核心，不是比较显存总量，而是看你的任务是否受限于跨卡通信。根据NVIDIA官方数据手册，A100 80GB的NVLink带宽高达600 GB/s，而RTX 4090多卡受限于PCIe 4.0，跨卡通信需经系统内存中转，带宽仅约64 GB/s。因此，若任务需要频繁同步，堆4090可能不如一张A100。两个必须分开问的问题：单卡算力够不够，多卡之间通不通很多团队算了一笔账：4张RTX 4090显存合计96GB，大于A100的80GB，于是认为可以平替。但这是典型的错误算法。显存容量只解决“装不装得下”的问题，跨卡通信带宽则决定“训练快不快”。RTX 4090单卡24GB显存、约1TB/s带宽，单卡性能不俗。但一旦采用张量并行或FSDP，梯度与激活的同步就必须频繁跨卡。此时，驱动层禁用P2P且无NVLink的4090，所有数据都得走PCIe 4.0，通信开销陡增，GPU算力大量空转。对比维度RTX 4090（多卡）A100 80GB（单卡/SXM4）单卡显存24GB GDDR6X80GB HBM2e显存带宽约1 TB/sHBM2e跨卡互联无NVLink、驱动禁用P2P，走PCIe 4.0约64 GB/s双向第三代NVLink 600 GB/s扩展效率受通信压制，需实测约0.92x适配场景LoRA/QLoRA、小模型DDP30B+全参数、长序列大Batch24GB的硬边界：权重、梯度、优化器状态与激活各占多少要判断24G显存能否做全参数微调，先算一笔显存账。以下按每参数字节数推算：FP16权重2字节、FP16梯度2字节、Adam优化器状态按每参数6字节（一阶动量+二阶动量）计。以7B模型为例：权重（FP16）：14GB梯度（FP16）：14GB优化器状态（Adam，FP32）：约42GB（7B×6字节；若再保留FP32主权重需另加约28GB）激活值：随序列长度和Batch size增长仅权重、梯度、优化器状态三项就需约70GB，远超24GB。所以，7B模型的全参数微调在单卡4090上根本无法启动，更别提30B+模型。但如果用LoRA/QLoRA，可训练参数量缩减到1%以下，显存占用大幅降低，24GB就变得可行。缺NVLink与P2P到底影响多大：同步发生在训练的哪一步RTX 4090没有NVLink，驱动层也禁用P2P，这意味着多卡之间无法直接访问对方显存。反向传播时，梯度需要做all-reduce；FSDP中，参数需要all-gather和reduce-scatter。这些操作都必须经过系统内存和PCIe 4.0总线，双向带宽仅约64 GB/s。同步轮次与跨卡搬运的数据总量随卡数和分片深度成倍增加，而带宽却不变，导致GPU算力单元频繁等待，训练速度自然上不去。NVIDIA官方在2023年2月确认了GeForce卡无P2P的事实，这一限制至今未变。堆卡有效区：DDP下的LoRA/QLoRA与小模型全参数微调那么，什么场景下堆4090划算？答案是：单卡放得下、通信频率低的任务。LoRA/QLoRA微调：可训练参数量小，单卡显存足够，多卡采用纯数据并行（DDP），梯度同步频率低，PCIe带宽够用，4090的性价比极高。小模型（<7B）全参数微调：如果单卡能放下，也可用DDP，但需注意优化器状态带来的显存压力。这些场景下，4090多卡相比A100单卡，采购成本低，训练速度也可能更快。因此，若你的任务是LoRA微调，选4090更划算。堆了也白堆区：30B+全参数、长序列与大Batch为什么必须换卡当模型超过单卡显存，必须采用张量并行或FSDP/ZeRO-3深度分片时，4090多卡就力不从心了。跨卡通信量剧增，PCIe带宽成为瓶颈，GPU算力闲置严重，训练时间被拉长，甚至出现显存溢出（OOM）。此时建议参考多卡推理优化中的通信策略，再做决定。此时，A100 80GB的NVLink优势尽显。其600 GB/s的互联带宽是PCIe 4.0的近10倍，扩展效率可达约0.92x，这意味着加卡几乎线性提速，而4090多卡扩展效率则远低于此。A100 80GB的NVLink扩展效率意味着什么：把倍速换算成完成时间A100的NVLink设计使得多卡协同训练时，通信不再是瓶颈。根据NVIDIA数据手册与专业评测，A100 80GB在大模型训练中相比消费级多卡方案，速度优势约3–4倍。换算方法：设你在A100上实测的单次训练完成时间为T，则同任务在通信受限的4090多卡方案上大致落在3T–4T区间；请用自己任务的实测T代入，不要直接套用任何第三方给出的绝对小时数。把时租换算成单次训练总成本：便宜卡为什么可能更贵采购决策不能只看硬件单价，总成本 = 卡数 × 时租 × 完成时间。4090多卡：单卡时租低，但卡数多、耗时长…

Qwen部署要多少显存？72B/32B 双卡分账指南
type: item
date: 2026-08-15T10:52:15+08:00
description: Qwen部署要多少显存？结论先给：Qwen 2.5 72B 在 FP16 下仅权重就约 144GB~146GB，需双卡 80GB（TP=2）；INT4 量化后约 38GB~40GB，可落到单卡 80GB/96GB 或双卡 32GB；32B FP16 权重约 63.5GB~64GB，需 80GB 级单卡或双卡，INT4 约 18GB。2026 年私有化部署选型时，AI 开发者与算法工程师最常卡在“显存看着够，实际跑不动”的环节。原因很简单：显存由权重、KV Cache、激活张量与引擎预留四笔账共同构成，只看权重数字极易误判。动手前先回答三个问题，否则显存数字没有意义：模型档位：72B 还是 32B？两者权重差距近一倍，直接影响卡型选择。上下文长度：Qwen 2.5 原生支持 128K（131,072 tokens），但上下文越长，KV Cache 占用越大，必须提前限定。并发规模：同时处理的请求数越多，KV Cache 总量越大，显存需求会成倍放大。脱离后两者谈显存，等于只算了一半账。第一笔账：权重占用，从 FP16 到 INT4 的换算表权重是显存的大头，也是最容易查到的基准。下表给出 Qwen 2.5 32B 与 72B 在 FP16、FP8、INT4 下的权重占用区间，以及对应的显存缺口判断。模型FP16/BF16FP8INT4（AWQ）能否进单卡 80GBQwen 2.5 32B约 63.5~64GB约 32GB约 18GB80GB 可行（FP16 勉强，量化更稳）Qwen 2.5 72B约 144~146GB未提供约 38~40GB单卡不可行（FP16），INT4 可单卡 80GB/96GB换算规律很简单：FP16 每 10 亿参数约占 2GB，FP8 减半，INT4 再减半（约 0.5GB/10 亿参数）。该换算为通用经验值，用于粗估，最终以实际加载后的显存读数为准。但注意，32B FP16 需要约 64GB，单张 24GB 或 32GB 消费卡绝对装不下；而 72B FP16 高达约 145GB，单张 80GB 也无法直接加载，需要双卡 80GB 并行，这正是后文 TP=2 的由来。若采用 INT4 量化，72B 可压缩到约 38~40GB，32B 仅约 18GB，单卡 24GB（如 RTX 4090）才有可能跑。第二笔账：KV Cache 为什么是上下文与并发的乘法如果说权重是固定支出，KV Cache 就是随上下文长度线性增长、再与并发数相乘放大的浮动支出。Qwen 2.5 原生支持 128K 上下文，但请记住一个数字：单请求在 128K 长度下的 KV Cache 即可超过 40GB。这意味着什么？假设你部署 32B INT4（权重约 18GB），单卡 24GB 只余 6GB 给 KV Cache，连 8K~16K 上下文都撑不住。并发数对显存的影响是乘法关系：N 个并发请求，KV Cache 总量约为单个请求的 N 倍。如果你设定了 32K 上下文且并发 8，KV Cache 就可能超过 80GB，直接顶爆双卡 80GB 的剩余空间。按单请求超 40GB 线性外推，并发 4 时估算需 160GB 以上（该数字为按线性关系推算的估算值，实际随模型 GQA 配置与量化方式浮动，需实测确认）。这就是为什么很多团队在长文本和并发上来后频繁触发 CUDA out of memory——不是权重问题，而是 KV Cache 这笔浮动账没算清。第三、四笔账：激活张量与引擎常驻，为什么要留 30%-50% 余量除了权重和 KV Cache，vLLM 运行时还会占用显存用于激活张量和引擎常驻开销（CUDA context、内存池等）。可用 KV Cache = 总显存 × 利用率 - 权重 - 常驻开销，因此生产部署建议预留 30%-50% 余量，不要卡着权重极限去算。同时注意，vLLM 默认按显存利用率预分配显存，即便权重只在 38GB，剩余空间不足时，上下文或并发上升同样会触发 OOM。为什么双卡 80GB（TP=2）是 72B 的生产基准形态把四笔账合起来看，72B FP16 权重约 145GB，双卡 A100/H100 80GB 合计 160GB，减去权重后还剩约 15GB 给 KV Cache 和激活。在限制上下文（如 8K）和低并发（如 4）下勉强能跑，但若要支持较长上下文或更高并发，就需要进一步量化或者扩充到 4 卡。这也解释了为什么 --tensor-parallel-size 2 是 72B Qwen部署的默认起点：单卡 80GB 物理上无法加载，双卡正好把权重分到两张卡上，显存利用率最高。对于 32B FP16（约 64GB），双卡 80GB 或单卡 80GB/96GB 都可行，但双卡 TP=2 能提供更…

L40S租用值不值？对比A100算清推理成本
type: item
date: 2026-08-14T10:48:48+08:00
description: 当你的团队准备把 32B 模型部署成线上服务，预算又够不上 A100 或 H100 时，L40S租用是不是一条值得走的路？答案是：取决于三个变量——模型多大、上下文多长、并发多少，只要这三者落在 48GB 显存和 PCIe 互联能承受的区间内，L40S 就是性价比很高的推理选择；反之，任何一个变量越界，省下的时租都会在排队和失败请求里还回去。2026 年 8 月的市场信号也在提醒我们：推理引擎版本和云 GPU 价格梯队都在快速变化，选型必须绑定当期引擎能力和报价一起算。vLLM v0.27.0 在 8 月 11 日发布，针对 Blackwell (SM100) 架构强化了 FP8 KV Cache 与 FlashAttention 4 支持；同一时期，H100/H200 的按量价格探底，B200 规模化上线后价格分化明显。这些变化直接影响中端卡的有效容量和成本对比，所以本文所有判据都会明确区分“架构无关的通用机制”与“Blackwell 专属能力”。48GB显存怎么分账：权重、KV Cache、中间张量与引擎常驻开销L40S 最吸引人的就是 48GB 显存，但它不是一整块给你放模型权重的。要判断“48GB显存能跑多大的模型”，得先把显存拆成四份：分账项占用内容影响因素权重模型参数本身参数量、量化精度（FP16/INT8/FP8）KV Cache已生成 token 的键值对上下文长度、并发数、每 token 占用字节中间张量激活值、临时计算结果Batch size、序列长度、模型结构引擎常驻推理框架、CUDA context、碎片引擎版本、并行策略、显存管理估算显存时，权重部分用 参数量 × 精度字节 计算（例如 32B FP16 约 64GB，INT8 约 32GB）；KV Cache 部分用 单 token 占用 × 上下文长度 × 并发数 计算。这里的单 token 占用公式为：2（K 和 V）× 层数 × KV head 数 × head_dim × 每元素字节（FP16=2，FP8/INT8=1）。实测中每元素字节通常为 0.5~2 字节，指的是每个缓存元素的精度字节，而非每 token 总占用。中间张量和常驻开销按经验值预留 20%~30%。把四份加起来，如果超出 48GB，就需要减小模型精度、缩短上下文或降低并发。不同参数量与精度下的显存余量对照，可结合GPU显存怎么选的推算方法一起用。判据一：装得下不等于跑得顺，显存余量该留多少很多人以为权重装进显存就能稳定服务，其实峰值激活、突发长请求和显存碎片会在运行时吃掉额外空间。例如一个 32B INT8 模型权重占 32GB，看起来离 48GB 还有余量，但如果并发请求的上下文长度波动大，KV Cache 会突然膨胀，再加上引擎临时分配，就可能触发 OOM。自查方法：用业务里最大上下文长度 × 目标并发数，算出 KV Cache 上限，再留出至少 20% 显存余量；然后用压测工具模拟真实请求分布，观察显存峰值。若峰值稳定在 40GB 以下，说明 L40S 能扛住负载；若频繁逼近 48GB，就该降低并发或换更大显存的卡。判据二：没有高速卡间互联时，L40S多卡扩展的收益边界在哪“L40S没有NVLink对多卡推理有影响吗？”这个问题要分场景回答。如果你把单个大模型切分到多张卡上做张量并行，那么卡间通信带宽就是关键瓶颈。L40S 走 PCIe 互联，带宽远低于 NVLink，多卡扩展时通信开销会显著拉低加速比。更合理的策略是优先选“单卡装得下”的模型规模，然后用多副本水平扩展——每张卡跑一个完整模型副本，通过负载均衡分担请求，这种部署不依赖卡间高速互联，扩展性更好。主流推理引擎近期在序列并行与并行缓冲区复用方向上的优化，能在一定程度上缓解通信成本，但这类优化在公开发布说明中是针对特定模型（如 DeepSeek-V4）给出的，不能默认等比例迁移到 L40S 上的任意模型。多卡场景下，建议参考多卡推理优化的通用原则，优先做模型副本扩容。判据三：引擎版本会改写有效容量——前缀复用与 KV Cache 策略带来的余量变化推理引擎的版本会直接改写 L40S 的有效容量，这一点常被忽略。2026 年 8 月 5 日，DeepInfra 发布的一项对比指出，SGLang 的 RadixAttention 前缀树机制在长上下文和共享前缀场景中能实现 KV Cache 零开销复用，吞吐表现优于传统哈希分片缓存。这意味着，如果你的业务有高频重复的前缀——比如多轮 Agent 对话或固定 system prompt——SGLang 能让同样的 48GB 显存支撑更高的并发，因为重复的 KV Cache 不需要重新计算。但反过来说，vLLM v0.27.0 里那些针对 Blackwell (SM1…

多卡推理优化怎么做？加卡前先算通信税的6个判据
type: item
date: 2026-08-13T10:48:15+08:00
description: 多卡推理优化的正确做法，是先按 Prefill 与 Decode 两段负载分别算账，再决定切分方式与加卡时机。很多团队直接翻倍卡数，结果 8 卡反而比单卡慢，归根结底是加的卡越多，通信税越重。这句话不是空谈。2026 年 8 月，vLLM 发布 v0.27.0，深入集成 FlashAttention 4，为 Blackwell SM100 提供 FP8 KV Cache 与 256 headdim 原生支持，并消除空 c128 启动、优化 Top-K 路由来降低 DeepSeek 模型的首包延迟（TTFT）；同期，SGLang 在 Blackwell 上推进 NVFP4 预填/解码分离（PD Disaggregation），并跟进 FlashInfer 的 NSA 与 DSA 稀疏注意力算子。这两条官方更新都指向同一个方向：把多卡推理的优化从“盲目加卡”转向“分段治理”。先分清两段负载：Prefill 吃算力，Decode 吃带宽与通信多卡推理优化要做的第一件事，是把推理过程拆成两段：Prefill（预填）阶段，处理输入 prompt 并生成首个 token，高度依赖 GPU 算力与并行计算能力；Decode（解码）阶段，逐 token 生成输出，主要受显存带宽与卡间通信速度制约。如果你不加区分地把两段混在一起谈，就会陷入“加卡之后延迟反而变高”的误区：比如 Decode 阶段卡间通信开销巨大，增加卡数反而拖慢单 token 生成。业界的最新实践正是沿着“分段治理”这条路径走。vLLM v0.27.0 针对 DeepSeek 架构强化了序列并行优化，SGLang 则在 Blackwell 上落地 NVFP4 PD 分离，让 Prefill 与 Decode 跑在不同实例上，各自按负载特征选择最优的硬件与切分方式。判据一：单卡显存装不装得下——你加卡是为了容量还是为了速度动手加卡之前，先问自己一个问题：你加卡是为了容量还是为了速度？容量型加卡：模型权重加上 KV Cache 超出单卡显存，需要多卡分摊显存。这种场景下，吞吐通常不会随卡数线性增长，因为卡间通信会吃掉一部分并行收益——这本来就是预期结果，不必焦虑。速度型加卡：目标是把吞吐拉高、把延迟压低，这时候切分方式与通信开销才是关键。一个容易被忽略的事实：671B 参数的模型即使做 4-bit 量化，依然需要超过 300GB 的显存，单张消费级 GPU 根本放不下，只能跑 32B 或 70B 的蒸馏版本。所以对超大模型来说，容量型加卡几乎是必然选择。参考已有的部署经验：GPU显存怎么选 可以帮你更快确定显存基线。判据二：切分维度选错，吞吐就不会线性增长（TP / PP / 序列维切分的适用边界）并行切分方式直接决定卡间通信的模式与吞吐表现。下表对比了三种常见切分维度：切分维度适用负载通信模式典型瓶颈张量并行（TP）Prefill 与 Decode 均适用，但对带宽敏感每层前向/反向都需要 All-Reduce卡间互联带宽，跨节点时急剧恶化流水线并行（PP）适合模型层数深、显存压力大的场景仅层间传递激活，通信量小流水线气泡（bubble）导致利用率下降序列维切分长上下文、共享前缀场景按序列块切分，稀疏注意力下通信减少序列切分与注意力计算的调度开销张量并行和流水线并行怎么选？简单来说：TP 切分权重与激活，适合单机内高速互联的环境；PP 按层切分，通信量小，但存在流水线气泡。对于 8 卡推理吞吐上不去的问题，往往不是卡数不够，而是 TP 过大导致通信占比过高。引擎版本会影响切分策略的最佳解。vLLM v0.27.0 对序列并行与 TTFT 做了专项优化，同样卡数下，更新引擎版本可能让 TP 的可用范围变大。因此，切分方式的选择必须结合你所用的引擎版本来实测，不能照搬旧结论。判据三：卡间互联决定 TP 的上限，什么时候单机内切、什么时候必须跨节点张量并行对卡间带宽极度敏感：单机内的高速互联（如 NVLink）能支撑较大的 tensor parallel size，跨节点走以太网或 InfiniBand 时，通信延迟和带宽都会明显劣化。因此，tensor parallel size 设多少合适，取决于卡间互联质量。在单机 8 卡内，TP=8 通常可行；一旦跨节点，TP 的通信税会急剧上升，这时应优先考虑 PP 或序列维切分来降低跨节点通信量。涉及集群规划时，可以参考 GPU集群规划 获取更多思路。一个经常被忽视的成本项是：KV Cache 溢出导致跨机通信的“通信税”，这会直接抵消加卡收益。判据四：KV Cache 精度会改写显存账，FP8 KV Cache 腾出的余量该怎么用vLLM v0.27.0 在 SM100 上原生支持 FP8 KV Cache 与 256 headdim。K…

GPU显存怎么选？4步算清权重与KV Cache占用
type: item
date: 2026-08-12T10:51:46+08:00
description: 先别急着看卡型参数表，GPU显存怎么选，答案要从你的负载反推：把模型权重、KV Cache、中间张量和框架常驻开销分开算，再加一层引擎版本与显存碎片的余量，最后才落到具体显存规格。vLLM v0.27.0 在 2026 年 8 月的更新里，就同时改写了 KV Cache 的字节宽度和启动期的显存占用，说明同一模型在不同引擎版本下显存账并不固定，这也正是选显存必须留余量的原因。推算前先问清三件事：模型多大、上下文多长、并发多少显存推算的三个输入变量缺一不可：模型参数量、目标上下文长度、并发请求数。脱离后两者谈“7B模型需要多少显存”必然算错，因为 KV Cache 随上下文与并发几乎线性放大。动手前先收集这几项：模型权重文件大小（可据此反推参数量与精度）、线上预期的上下文长度（比如 8K 还是 32K tokens）、同时推理的最大并发请求数。第一笔账：权重显存怎么算，FP16/FP8/INT4 三档精度换算权重显存 = 参数量 × 每参数字节数。FP16 每个参数占 2 字节，FP8 占 1 字节，INT4 占 0.5 字节。以 7B 模型为例，FP16 权重约 14GB，FP8 约 7GB，INT4 约 3.5GB。注意这只是权重部分，还没算 KV Cache 和框架开销。下表给出常见规模的量级参考，方便你代入自己的模型：模型参数量FP16 权重FP8 权重INT4 权重1B~2GB~1GB~0.5GB7B~14GB~7GB~3.5GB13B~26GB~13GB~6.5GB70B~140GB~70GB~35GB表中数值为按参数量×字节宽度推导的权重量级，不含 KV Cache、激活值与框架开销，也不代表任何具体型号的实测占用。第二笔账：KV Cache 与上下文长度、并发数的乘法关系KV Cache 的单 Token 基础推算公式是：2 × 层数（Layers）× KV头数（KV_Heads）× 头维度（Head_Dim）× 每参数字节数。这个值乘以序列长度再乘以并发数，就是 KV Cache 的总占用。该单 Token 推算式为 vLLM 官方文档给出的基础形式。上下文长度增加，KV Cache 会线性增长；并发数翻倍，KV Cache 也翻倍。FP16 与 FP8 的差别在这里同样体现：FP8 KV Cache 每个参数少 1 字节，整块缓存显著缩小。vLLM v0.27.0 在 Blackwell SM100 上深化了 FlashAttention 4 FP8 KV Cache 支持，意味着同一模型同一上下文，用 FP8 缓存能省出可观显存。第三、四笔账：中间张量与框架/引擎常驻开销为什么必须预留除了权重和 KV Cache，推理过程中还有激活值、通信缓冲、CUDA 上下文等中间张量，以及显存碎片。vLLM 官方将 gpu_memory_utilization 默认设为 0.9，意思是只使用 90% 的总显存，预留约 10% 给碎片和运行时分配。关于 gpu_memory_utilization 的实际配置，可参考 vLLM部署 的完整流程。这说明“可用显存”并不等于卡上标称显存。例如 24GB 的卡，实际可用约 21.6GB。因此，你算出来的理论占用必须小于这个可用值，否则容易触发 CUDA out of memory。四步推算法完整走一遍：从模型规模到目标显存区间GPU显存怎么选，落到操作上就是把四笔账按顺序算完：算权重：参数量 × 每参数字节数。算 KV Cache：单 Token KV Cache × 上下文长度 × 并发数。算中间张量与框架开销：一般按总显存的 10%~20% 预留，或根据引擎文档设定。加总得到理论下限，再乘 1.1~1.2 作为实际需求区间。这样你会得到一个显存区间而不是单点数值。区间的下沿对应刚好够用但风险偏高，上沿对应更安全但可能浪费。以 7B 模型 FP16、上下文 8K、并发 4 为例（按 32 层 / 8 个 KV 头 / 头维度 128 的 GQA 结构估算）：权重约 14GB + KV Cache 约 4GB + 中间张量与框架开销约 3GB ≈ 21GB，加余量后需求落在 24GB~28GB，24GB 卡处于临界（需压低并发或上下文），稳定线上建议 32GB 及以上。注意，若换成 32 头 MHA 结构（KV 头数由 8 升到 32），单 Token KV Cache 由约 128KB 升到约 0.5MB，KV Cache 约 16GB，总需求约 33GB，加余量后建议 48GB 档位或多卡。若并发继续提升，还需考虑多卡并行，可参考 GPU集群 方案。引擎版本会改写显存账：FP8 KV Cache 与启动期优化带来的余量变化这一节是重点：推理引擎的版本会直接改变显存账单。据 …

H100租用多少钱一小时？5个该不该租的自查条件
type: item
date: 2026-08-11T10:54:37+08:00
description: H100租用按量价格已下探到 $1.99–$2.99/GPU-小时，中位数 $2.29–$3.12；该不该租，取决于你的负载是否真的吃满 80GB 显存。训练脚本刚跑起来不到十分钟，显存就逼近 80GB，你盯着监控面板开始犹豫。2026 年 8 月的价格横评显示，B200 均价还在 $7.11/GPU-小时，H200 则在 $2.60–$4.50 之间，H100 在中间提供了一个相当有吸引力的性价比锚点。下文先给出一张价格快照，再给你 5 条可自查的判据，最后附上同负载对照实测的清单（注：以下价格与显存判断均基于 2026 年 3–8 月公开监测数据，实际会随区域与合约浮动）。价格快照：H100、H200、B200 的价差摆在一起看下表把 H100租用与相邻卡型的按量价格并排列出。需要说明，这里的价格是区间而非某一家的固定报价，且传统超大规模云厂商 8 卡整机的折算单价通常更高。卡型按量均价（$/GPU-小时）Spot/预留最低说明H100$1.99–$2.99监测数据未单列专业 GPU 云平台主力报价区间H200$2.60–$4.50未单列显存与带宽更高，价格上浮B200$7.11$3.35–$3.60均价较高，Spot 价有吸引力超大规模云厂商的整机折算单价（$3.00–$8.00+）明显高于专业 GPU 云，差异来自合约形态、区域与是否包含存储网络等附加服务。价格区间来自 GetDeploying 跨 26 家云厂商的 B200/H100 价格索引（2026-08）与 GMI Cloud 的 H100 租买成本分析（2026-04），监测口径为 2026 年 3–8 月。H100 spot 实例与预留模式在部分平台可进一步压低单价，但需要能接受中断与重排队。判据一：80GB 显存装不装得下——权重、KV Cache 与中间张量的分账法显存占用不是只看权重大小，要按三段分账：权重×精度字节 + KV Cache + 激活与碎片余量。以 70B 模型为例，使用 4-bit AWQ 量化推理或 QLoRA 微调，显存需求约 35–73GB，可以落在单卡 H100 的 80GB 内；但若是 FP16 全参微调，70B 模型需要超过 1TB 显存，就得 8×H100 或多节点。你可以这样粗算：权重显存 = 参数量 × 每参数字节（FP16 为 2 字节，INT4 为 0.5 字节），再加上输入序列的 KV Cache，最后留出 15–20% 余量。那么微调 7B 模型需要租 H100 吗？FP16 下 7B 权重仅约 14GB，中端卡通常就够，除非你同时跑高并发推理或超长上下文。判据二：上下文长度与并发数，决定你先撞显存墙还是带宽墙KV Cache 会随上下文长度和并发数线性增长，直接压缩可用的 batch 大小。你可以先设定目标并发数，反推可支持的上下文长度：先算出 KV Cache 每 token 占用，乘以上下文与并发，看剩余显存是否够放权重。长文本场景下，吞吐瓶颈往往从显存容量转向带宽，信号是 batch 上不去了但显存还没满——这时候加并发，延迟会快速恶化。H100 的 80GB 在 128K 上下文下可能只够支撑较小并发，具体取决于模型与优化程度。判据三：持续满载还是断续脉冲——按量与长期占用的分界点H100租用的按量计费适合低频或脉冲式负载，但如果你每月有效满载小时数超过 400 小时（示意阈值，按自身单价与包月折扣重算），长期包月或预留更划算。Spot 实例和按量哪个便宜？答案是 Spot，但代价是随时可能被回收。另外注意空转计费：实例开起来但没跑任务也会计费，关掉或自动休眠可省隐性成本。判据四：是否依赖 Blackwell 专属算子路径，以及怎么核实如果你的代码或推理框架用到了 B200 上的专属算子（如特定精度或并行模式），在 H100 上可能回退到通用路径，性能打折。核实方法很直接：查推理框架的 kernel/后端支持矩阵，看编译目标算力版本；再验证量化格式（如 AWQ）在 Hopper 上的可用性与回退路径，必要时查阅 vLLM 和 SGLang 等框架官方文档或 GitHub 上的算子支持列表。多数主流部署路径在 H100 上仍可用，但个别新算子未必有优化。判据五：单价不等于成本——把 $/小时换算成每百万 Token 成本比价不能只看小时单价，要看单位产出成本。公式很简单：每百万 Token 成本 = 小时单价 ÷ 实测吞吐 tokens/s ÷ 3600 × 1,000,000务必使用自己的实测吞吐，而非官方标称 TFLOPS。比如你测出 H100 在某负载下吞吐为 3000 tokens/s（示意值），按 $2.50/小时算，每百万 Token 成本约为 **$0.23**；而若 H200 在同一负…