> 数据图表

请问一下常见企业级生产部署环境(DeepSeek-R1-70B,单卡)所需的显存容量分布

2025-3-0
请问一下常见企业级生产部署环境(DeepSeek-R1-70B,单卡)所需的显存容量分布
编译缓存等,每个 AI 计算卡需要约 1.00GB。综上,常见企业级生产部署环境下,一共需要约 104.16GB 的显存容量模型占