结论前置：带宽是推理吞吐的天花板，不是跑分数字

在AI推理芯片的公开规格书里，显存带宽往往是最容易被误读的一项指标。芯脉观察在整理多份规格书后发现，厂商标称的带宽值只是理论峰值，真正决定推理吞吐的是「有效带宽」——它由显存类型、位宽、等效频率三者共同决定，再乘以一个由访问模式决定的效率系数。理解这三个数字的关系，就能在选型阶段对芯片的实际吞吐做出合理判断，而不必依赖第三方跑分。

对推理场景而言，权重读取占据了绝大多数显存访问量。以常见的自回归解码为例，每生成一个token都需要完整读取一次模型权重，因此带宽直接决定了token生成速率的上限。芯脉观察技术解读栏目此前讨论过能效比与互联拓扑，本篇聚焦带宽这一项，把规格书里的数字讲清楚。

三个数字：位宽、等效频率与显存类型

显存带宽的计算公式并不复杂：带宽 = 显存等效频率 × 总线位宽 ÷ 8。规格书通常给出显存类型、位宽和等效频率三项，读者可以自行验算。芯脉观察提醒，这里最容易出错的是等效频率的口径——部分规格书写的是显存颗粒的原始频率，部分写的是经过倍频后的等效值，两者相差数倍，直接代入会得到完全不同的结论。

  • 位宽决定单次传输的数据宽度，常见有128位、256位、512位等，位宽翻倍意味着在同等频率下带宽翻倍。
  • 等效频率需确认是否为「每引脚速率」，DDR类显存与GDDR类显存的倍频关系不同，规格书一般会注明。
  • 显存类型影响的不只是频率上限，还影响访问延迟与突发传输效率，这些不会直接写在带宽数字里。

芯脉观察建议在比对不同芯片时，先把三项参数统一到同一口径，再计算理论带宽。若规格书只给出带宽总值而未列明细，可反推位宽与频率组合是否自洽，这是判断规格书严谨度的一个实用方法。

从理论到有效：效率系数从哪里来

理论带宽与有效带宽之间的差距，主要来自访问模式、显存控制器调度和缓存命中率。芯脉观察在梳理公开技术资料时注意到，连续大块读取的效率通常高于随机小颗粒访问，而推理场景中的权重读取恰好偏向连续访问，因此实际效率往往高于通用计算场景。但KV Cache的读写、多请求并发的调度切换，都会拉低整体效率。

一个可操作的估算方法是：先用理论带宽除以模型单次前向所需的权重读取量，得到理论上限，再乘以一个经验效率系数。芯脉观察强调，这个系数不应被当作固定常数，它与批大小、序列长度、并发请求数都相关。批大小增大可以摊薄权重读取的固定开销，但会抬高KV Cache的访问压力，两者存在权衡点。

  • 权重读取量可按参数量乘以每参数字节数估算，量化位宽越低，单次读取量越小，带宽压力越轻。
  • KV Cache的容量与访问量随并发数和序列长度增长，长上下文场景下它可能反超权重读取成为主要带宽消耗方。
  • 片上缓存与近存计算结构能减少对显存的重复访问，规格书中的缓存容量值得与带宽一并阅读。

数据解读的边界：规格书不告诉你的部分

芯脉观察必须指出，仅凭公开规格书无法完整预测推理性能。显存带宽给出的是上限约束，而实际吞吐还受制于计算单元利用率、软件栈成熟度与调度策略。规格书通常不披露显存控制器的调度细节，也不披露不同访问模式下的效率曲线，这些恰恰是实测与理论出现偏差的主要原因。

因此，把带宽当作筛选条件而非结论，是更稳妥的选型思路。芯脉观察建议读者建立自己的参数对照表，把位宽、等效频率、显存容量、缓存容量与量化支持放在同一张表里横向比较，再结合自身模型的参数量与上下文长度做估算。本站客户端已支持安卓、苹果iOS、Windows电脑版与Mac电脑版同步查看这类对照内容，便于在选型讨论中随时调取。

归根结底，显存带宽是一项「可验算」的指标，这正是它适合作为数据解读切入点的原因。芯脉观察将持续从公开规格书出发，把能效比、互联拓扑与先进封装等主题逐项拆开，帮助读者建立可复用的判断框架。