> 数据图表

我想了解一下推理占比持续增长

2025-5-3
我想了解一下推理占比持续增长
随着模型的成熟以及生成式人工智能应用的不断拓展,推理场景的需求日益增加,DeepSeek 等开源算法的推出进一步降低了部署大型模型的门槛,使更多企业通过私有云或公有云部署 AI 模型,推理服务器的占比将显著提高。据 IDC 数据,2024年国内人工智能服务器工作负载重推理占比达到 65%,预计到 2028 年,推理工作负载占比将达到 73%。