想关注一下LLM 推理硬件利用率：预填充阶段与解码阶段

> 数据图表

2026-9-3

和系统总吞吐，却可能增加排队时间和单用户延迟，由此形成吞吐与交互速度之间的系统级取舍，也就是说 Prefill 阶段更倾向算力，而 Decode 阶段更应强调通信带宽。