> 数据图表

请问一下2.1 AI:从模型到算力、应用,进入全面繁荣时代

2025-5-1
请问一下2.1 AI:从模型到算力、应用,进入全面繁荣时代
2.1 AI:从模型到算力、应用,进入全面繁荣时代2.1.2、 算力端:大模型的快速发展,带动了AI算力的强劲需求AI算力产品自身的快速迭代也为大模型的训练提供良好基础。2024年3月, NVIDIA 发布新一代 Blackwell GPU 架构,继续沿用 4nm 的定制增强版工艺台积电 4NP。从 2016 年 Pascal GPU 的 19TFLOPS,到Blackwell GPU 的 20PFLOPS,英伟达用 8年将单卡AI训练性能提升了1000倍。在GTC 2025上, NVIDIA推出Blackwell Ultra GPU, Blackwell Ultra 基于 Blackwell架构,Blackwell Ultra包括 NVIDIA GB300 NVL72机架级解决方案和NVIDIA HGX B300 NVL16系统。GB300 NVL72的AI性能是NVIDIA GB200 NVL72的1.5倍,这使得建造AI 工厂的收入机会与基于 NVIDIA Hopper构建的系统相比增加了50倍。NVIDIAHGX B300 NVL16相比Hopper代产品,LLM 推理速度提速了11倍,计算性能提升了7倍,内存容量扩大了4倍,可为最复杂的工作负载(如 AI 推理)提供突破性性能。图25:英伟达用 8 年将单卡AI训练性能提升了1000倍图26:相比上一代Hopper集群,Blackwell可将1.8万亿参数的 GPT-MoE推理性能提高到30倍资料来源:芯东西、IT之家资料来源:芯东西、IT之家