> 数据图表

怎样理解6.3. 需求侧:大模型训练需求趋于收敛,推理需求正在孵化

2025-8-2
怎样理解6.3. 需求侧:大模型训练需求趋于收敛,推理需求正在孵化
6.3. 需求侧:大模型训练需求趋于收敛,推理需求正在孵化◆ 大模型训练需求趋向收敛,推理需求正在孵化。1)训练侧:模型参数实现由百亿、千亿向万亿级别跨越,极大推动算力需求增长,需求来源逐渐聚焦于头部大模型商、高校及科研单位;2)推理侧:垂类应用处于快速孵化阶段,一旦应用顺利度过孵化期,用户规模及算力需求有望迎来迅速增长。图:大模型应用孵化器不断缩短,用户规模及算力需求有望高增图:AI服务器推理侧负载有望持续提升150%100%50%0%58%42%202241%59%68%32%69%31%71%29%73%27%20232024E2025E2026E2027E训练 推理图:伴随模型迭代速度不断加快,算力需求迅速提升图:大模型技术发展带动模型参数规模演进资料来源:《Brain-inspired computing – We need a master plan. 》,《中国智算中心产业发展白皮书(2024年)》 ,天风证券研究所30