> 数据图表

如何解释3.2 存内计算难度大,近存计算和存内处理是重要方向

2025-4-1
如何解释3.2 存内计算难度大,近存计算和存内处理是重要方向
3.2 存内计算难度大,近存计算和存内处理是重要方向◼ 存储速度滞后于计算器速度,AI时代存储带宽制约算力芯片性能发挥。➢ 在过去二十年,处理器性能以每年大约55%的速度提升,内存性能的提升速度每年只有10%左右。结果长期下来,不均衡的发展速度造成了当前的存储速度严重滞后于处理器的计算速度。➢ 虽然多核(例如CPU)/众核(例如GPU)并行加速技术提升算力,AI时代处理器计算技术能力大幅提升,同时大型 Transformer 模型的参数数量呈指数级增长,每两年增加 410 倍,而单个 GPU 内存仅以每两年 2 倍的速度扩展,存储带宽制约了计算系统的有效带宽,限制算力芯片性能发挥。图表:处理器和存储器速度失衡图表:AI时代计算能力大幅提升 图表:每单元算力使用的带宽和内存均处于下降趋势来源:知存科技,中泰证券研究所30