> 数据图表

一起讨论下大模型训练与推理对存储器的需求

2025-11-6
一起讨论下大模型训练与推理对存储器的需求
用户共享问题),通过共享相同问题的 KV Cache 和将长期未使用数据转存至 HDD 来优化存储,而训 练阶 段的存储需求则随模型参数量增加而等比例上升。