> 数据图表你知道1.1、与GPU定位云端AI不同，NPU是端侧AI时代新需求
2025-4-11.1、与GPU定位云端AI不同，NPU是端侧AI时代新需求◼ 传统CPU及GPU架构在处理AI任务时面临的瓶颈包括：算力、功耗、成本、内存/带宽瓶颈等。➢ CPU的主要局限在于计算并行能力不足：传统的 CPU 架构在设计上更侧重于顺序执行和复杂逻辑控制，其核心数量和并行处理能力相对有限，在处理 AI 相关任务时速度较慢，无法满足AI 应用的需求。➢ GPU的主要局限在于功耗和成本：GPU擅长云端的大数据集计算，端侧的计算数据量相对云端更小，同时对功耗有严格限制，叠加成本因素，端侧应用受限。➢ CPU与GPU均有内存及批处理限制问题：CPU和GPU计算过程均存在内存瓶颈，需要采用批处理方式加载数据和权重进行计算，难以同时满足高吞吐量和低延迟的需求。图表：NPU与GPU区别特性设计初衷计算能力灵活性能效比NPUGPU专用于神经网络计算最初用于图形渲染，现广泛用于通用计算高效的神经网络推理强大的并行计算能力，主要用于云端专用硬件，较低的灵活性通用性高，可以编程实现各种计算任务高相对较低典型应用深度学习推理，边缘计算，实时处理图形渲染，深度学习训练和推理，科学计算来源：53AI，OneFlow公众号，中泰证券研究所7 
