> 数据图表

一起讨论下TP 等技术对于网络带宽需求大幅提升

2025-11-5
一起讨论下TP 等技术对于网络带宽需求大幅提升
的各个 GPU 直接访问其他 GPU 的存储器,形成一个虚拟的大内存池来供模型使用。内存的互访对延迟要求极高,内存访问时延一般需要低于 100ns,这对于 Scale-up 中的网络设备和协议提出了极高要求,NVL72 方案中采用铜缆直连来降低时延,后续当算力卡数量进一步增加,则需要高速光连接来解决大规模超节点内部的远距离互联问题。