> 数据图表你知道大模型行业痛点:Scaling-Law驱动下参数膨胀带来训练推理成本飙升
2025-5-5大模型行业痛点:Scaling-Law驱动下参数膨胀带来训练推理成本飙升生成式模型参数和训练算力需求指数级膨胀,尤其是Transformer模型在巨量用户需求下,Google AI搜索推理成本负担沉重注:绿色为Transformer相关模型注:“60%/70%”行、“125/150”列为分析师推算值年推理成本(十亿美元)每次AI搜索回复词数(个)IA搜索渗透率30%40%50%60%70%50751001251503.64.867.28.45.47.2910.812.67.29.61214.416.891215182110.814.41821.625.2随着用户规模扩张,模型参数扩大,处理信息更复杂,推理成本将大幅上升推理成本(美元)总查询次数2*模型参数(FLOPs/Token)输入和输出文本需要处理的Token数量算力成本(美元/FLOPs)硬件利用率AI加速渗透,用户数量和使用频次高速增长Scaling-Law驱动下模型参数规模指数级膨胀-模型性能提升,回复内容更加专业,篇幅更长-AI搜索普及,单次搜索就需要输入成千上万的文本数量资料来源:Meta、Nvidia、Reuters、国海证券研究所请务必阅读报告附注中的风险提示和免责声明 31