> 数据图表

请问一下英伟达 AI 数据中心架构从芯片到 AI 工厂的系统级演进

2026-6-2
请问一下英伟达 AI 数据中心架构从芯片到 AI 工厂的系统级演进
数据来源:TrendForce 异构部署能否真正降本,取决于互联效率、显存利用率和缓存层级设计。PD分离后,Prefill 和 Decode 节点之间需要频繁传输 KV Cache,对节点间互联带宽提出更高要求同时,显存碎片和缓存占用可能导致显存浪费,推高系统成本。英伟达 2026 年数据中心方案正是围绕这三个维度进行设计:其产品布局涉及 Vera CPU、Rubin GPU、BlueField DPU 以及 Groq LPU 等异构处理器,并通过统一的传输库和多级 KV 缓存(GPU 显存、CPU 内存、SSD、远程存储)扩展有效容量。