> 数据图表咨询下各位AI推升电力消耗2025-12-2AI推升电力消耗➢ 不同于训练，推理任务的能耗需要考虑因素较多。比如，输入Token量及输出Token量、硬件配置以及批处理规模、键值缓存管理、注意力机制等操作优化策略的多重影响。此外，由于面向用户的商业AI模型在规模与实施细节方面缺乏透明度，难以精确测算其算力需求及后续能耗。不过随着长上下文任务及多模态模型的加速渗透，即使通过MoE或其他算法提升效率，但是总耗能或仍然持续提升。➢ 图表：推理及生成任务的用电量受多重因素影响更长的输入问题和输出答案需要更多计算资源，因而消耗更多电能输入问题规模与输出答案长度OpenAI的o1模型与DeepSeek的R1等新模型采用推理时缩放技术提升在推理/规划任务中的表现。直观来说，这使模型在作答前进行更密集的"思考"，但会显著增加计算量与能耗成本推理时缩放程度视频和图像生成的计算强度通常远高于文本生成，能耗也相应更大输入输出模式数据来源：金元证券研究所整理推理任务用电量算法效率优化业界正采用不同策略降低推理计算强度，例如混合专家模型（MoE）。MoE模型在推理时仅激活与当前查询最相关的模型部分，从而在保持性能的同时节约计算量与能耗模型规模在同等条件下，参数量更大的模型处理输入输出所需计算量更大，能耗更高硬件实施方案运行AI模型的专用硬件能效持续提升。以最新一代B200 GPU为例，其FLOP/瓦特能效较上一代H100提升60%，而H100较前代A100提升80%。具体硬件方案会显著影响能源强度金元证券科技传媒
