> 数据图表

如何才能经典冯诺依曼架构“存算分离”严重影响AI计算速度、能耗

2025-8-2
如何才能经典冯诺依曼架构“存算分离”严重影响AI计算速度、能耗
冯诺依曼瓶颈:超 90%的计算时间和能耗花费在“存”、“算”硬件之间的反复来回传输上。冯诺依曼架构主要为“存算分离”架构,即数据的处理和存储是分离的,分别由中央处理器 CPU 和存储器完成。每次执行运算时,需要把数据从存储器搬运到处理器,中间经过数据总线,当数据处理完之后再将其搬回存储器中。过去六十年来几乎每个处理器都采用冯诺依曼架构,其优势包括灵活性、应不同工作负载的适国性以及轻松扩展系统和升级组件的能力(设计目的是快速切换到一些不相关的任务)。而 AI 计算任务间相互关联,因此当数据“搬运”过程中,处理器会陷入等待状态。根据(Nature,在处理分子动力学计算时,超 90%的计算时间和能耗花费在“存”、“算”硬件之间的反复来回传输上。