如何了解大规模的同质流量具备显著的效率优势

> 数据图表

2026-9-0

Batch 时，吞吐接近混合大 Batch 的 2 倍，总的执行时间也更短。而非常小的同质批次（32个批次，每个批次 25 个请求）由于计算利用率不足，性能也相对较差。