> 数据图表如何才能英伟达：GB200 NVL72等机架系统大幅强化新一代AI计算能力2024-12-4英伟达：GB200 NVL72等机架系统大幅强化新一代AI计算能力英伟达产品形态包括芯片、服务器和机架系统三个层级，存在依次组成构建的关系。 芯片级：英伟达官方当前公布的芯片款式包括B100、B200和GB200三类，其中GB200由2个B200和1个CPU构成； 服务器级：8个B100或B200芯片组成对应8卡服务器，GB200超级芯片服务器则配备两个GB200超级芯片； 机架系统：服务器通过机架式设计，可实现多个服务器连接形成更多GPU互连，例如72个GPU连接的GB200 NVL72。机架系统组成：1）GB200 NVL72：计算部分由18个GB200 服务器构成（36个GB200超级芯片，即36个Grace CPU+72个Blackwell GPU），中间通过9个NVLink Switch Tray实现通信共享；机架还可横向拓展，如8个GB200 NVL 72机架可组成一个SuperPOD，创建一个576个GPU互连的大型算力集群。2）GB200 NVL36：单机柜形式，计算部分由9个GB200服务器构成，其中机架上方放置5个、机架下方放置4个，中间通过9个NVLink Switch Tray连接。图表24：英伟达Blackwell系列服务器规格图表25：英伟达GB200 NVL72和GB200 NVL36的机架内部构成和结构GPU组成FP4 Tensor CoreFP8/FP6 Tensor CoreINT8 Tensor CoreFP16/BF16 Tensor CoreTF32 Tensor Core FP64 Tensor Core存储NVIDIA NVLinkNVIDIA NVSwitchGPU间带宽 总聚合带宽HGX B2008 x B200 SXM 144 PFLOPS 72 PFLOPS72 POPS36 PFLOPS 18 PFLOPS 320 TFLOPSHGX B1008 x B100 SXM 112 PFLOPS 56 PFLOPS56 POPS28 PFLOPS 14 PFLOPS 240 TFLOPS高达1.5TB NVLink 5.0NVSwitch 4.01.8 TB/s 14.4 TB/s请务必参阅正文之后的重要声明资料来源：英伟达官网，光大证券研究所20资料来源：英伟达官方，光大证券研究所光大证券综合其他
