> 数据图表

咨询下各位I/O Wall 背景下,互联赛道持续扩容

2026-9-3
咨询下各位I/O Wall 背景下,互联赛道持续扩容
I/O Wall 背景下,互联赛道持续扩容大模型参数规模正迈向十万亿级甚至更高,推动智能算力需求爆发式增长。超大模型训练中的张量并行、专家并行等模式,高度依赖集群内GPU之间频繁、大规模的数据交换,使互连瓶颈更加突出。亟需构建高带宽、低时延、高能效的新型互连架构,支撑算力集群持续扩展:• 计算能力每两年增长约 3 倍,内存带宽约 1.6 倍,互连带宽约 1.4 倍。• 当多颗 GPU 协同工作时,传输成为瓶颈,就会出现算力等待数据的情况,这源于 I/O Wall。• Scale-Out 把更多服务器、机架连接成集群;Scale-Up 让更多加速器紧密协作;整体看,数据搬运效率仍需持续提升。图:I/O墙问题示意图资料来源:台积电,东吴证券研究所6