> 数据图表怎样理解大型模型实际有效算力显著低于理论峰值2026-10-24.2. 短期看硬件:当前 AI 算力成本仍由芯片与服务器主导 我们认为,当前 AI 算力成本竞争的第一变量仍然是硬件,从完整 TCO 结构看,GPU、服务器及相关计算设备仍占据绝对主体。 我们参考 Epoch AI 对一座 1GW IT 负荷、采用 NVIDIA GB200 NVL72 的典型 AI 数据中心测算,其年度 TCO 约 85 亿美元,其中服务器年化成本约 50亿美元,占比接近 60%数据中心设施及网络基础设施合计约占 30%,而年度电力成本约 5.9 亿美元,占比仅约 7%。这意味着,在当前技术和成本结构下,芯片采购价格、单位芯片性能以及完成同等任务所需要的硬件数量,仍然比电价本身更能决定 AI 算力成本。 我们认为短期硬件成本占主导也意味着,AI 基础设施不能简单以“单卡价格”衡量经济性,而需要比较完成相同任务所需要投入的整体硬件资本。如果一种芯片采购价格较低,但为了实现相同模型性能或吞吐量需要部署更多 GPU,则服务器、内存、网络互联以及配套供电和制冷设施均会同步增加,低单价优势可能迅速被更大的系统规模抵消反之,更高价格的芯片如果能够显著提升单位芯片有效产出,也可能通过减少服务器数量和集群规模降低整体 TCO。 所以从短期看,决定 AI 算力成本的核心仍在硬件,我们以 Epoch AI 上述1GW 数据中心模型为基础,其基准电价约 8.34 美分kWh,年度电力成本约5.9 亿美元。在其他条件完全不变的静态测算下,即便电价下降一半,年度TCO 降幅仅约 3%4%即便将电价直接降至零,整体 TCO 理论降幅也仅约 7%。因此,如果不同硬件方案在单位有效算力成本上存在 10%甚至更大的差异,单纯依靠较低的电价通常难以完全弥补。国泰海通能源矿产