谁知道不同上下文长度下的 TPU 和 GPU 推理基准测试结果对比

> 数据图表

2026-9-0

两场景的性能与成本。测试结果显示 TPU v5p-8 Gemma-4-31B 在训练速度、训练成本、长上下文推理场景下的吞吐和首 Token 延迟等表现上均优于 GPU H100。