> 数据图表一起讨论下1.3 AI算力芯片对先进存储器需求激增2025-9-01.3 AI算力芯片对先进存储器需求激增⚫ AI算力芯片对存储器件需求极高。AI算力卡需要处理包含亿计的文本、图像资料的数据集，以支持机器学习模型的训练和推理。以OpenAI的SDXL应用为例，该应用能够将文本转换为图像，其训练过程中使用了超过1亿张图片作为数据集。这样的大规模数据处理对内存的要求极高，不仅需要足够的容量来存储这些庞大的数据集，还需要足够的带宽来保证数据能够迅速地在内存和处理器之间传输。⚫ AI算力芯片在内存、显存、硬盘上均有更高性能需求：（1）内存方面，DDR5逐渐取代DDR4。DDR5的传输速率可达DDR4的2倍以上，同时，DDR5每个模块的容量更高，为128GB，是DDR4的2倍。据美光数据，AI服务器中 DRAM 容量是普通服务器的8倍，NAND容量将是普通服务器的3倍。（2）显存方面，HBM在加速卡上全面取代GDDR显存，相较GDDR，HBM具有高带宽、高容量、低功耗和小尺寸四大优势。（3）硬盘方面，SSD逐渐替代HDD。⚫ 训练卡对比推理卡主要差异在显存，训练卡通常使用HBM：训练卡需要处理海量的数据，对存储的带宽和容量要求极高。HBM 具有高带宽、低延迟的特点，能够满足训练过程中大量数据的快速读写需求，因此其成为训练卡的首选存储类型。推理卡虽然对存储的要求相对训练阶段有所降低，但仍需要一定的带宽和容量来保证推理的实时性和准确性，DDR内存具有较高的性价比和良好的兼容性，能够满足推理卡的存储需求。◆ 图：算力芯片带动先进存储器放量◆ 图：AI服务器DRAM容量需求是普通服务器的8倍DRAM容量对比NAND容量对比数据来源：美光，半导纵横，东吴证券研究所7东吴证券综合其他
