> 数据图表

如何了解2024 年 AI 服务器中非 GPU 卡占比超 30%

2025-5-3
如何了解2024 年 AI 服务器中非 GPU 卡占比超 30%
量取胜,国产集群规模持续增长,弥补单卡算力差距。2025 年 2 月 5 日,百度成功点亮昆仑芯三代 P800 万卡集群,这也是国内首个正式点亮的自研万卡集群。百度智能云将进一步点亮 3 万卡集群。百度百舸 AI 异构计算平台 4.0 在集群创建、开发实验、模型训练、模型推理四大方面持续提升。 4 月 14 日,华为推出 CloudMatrix 384 超节点,以 384 张昇腾算力卡组成一个超节点,规模、性能和可靠性上对标英伟达 NVL72,基于 CloudMatrix 的昇腾 AI 云服务,大模型训练作业可稳定运行 40 天,互联带宽断点恢复在 10 秒级别。在互联带宽上,超节点网络交换机采用 6912 个 400G光模块,实现 2.8Tbps 卡间互联带宽。硅基流动已经联合华为云基于 CloudMatrix384超节点昇腾云服务正式上线 DeepSeek-R1,在保证单用户 20TPS 水平前提下,单卡Decode 吞吐突破 1920Tokenss,可比肩 H100 部署性能。