> 数据图表

谁知道InfiniBand和以太网对比

2026-7-5
谁知道InfiniBand和以太网对比
大模型参数持续膨胀,算力集群与服务器需求攀升,超节点成为刚需。Kimi K3 发布后,壁仞科技 AI 框架架构副总裁丁云帆预测,明年有望出现 5 万亿参数模型,沐曦股份研发副总裁黄向军也表示业界较激进的预测已达 5 万亿、6 万亿级别。这一需求已在实际运营中体现为算力紧张:Kimi K3 上线后用户请求量大幅超出预估、逼近现有集群承载极限,月之暗面一度暂停 C 端新用户订阅,创始人杨植麟披露 2026 年计划将参数规模推向新量级,需数万张高端 GPU 持续训练参数增长也直接推高单模型所需的卡量与集群规模:7000 多亿至 1 万亿参数模型采用典型的 PD 分离(预填充与解码分离)部署时,P、D 节点各用 16 张左右算力卡即可支持,但参数量超万亿后所需算力、显存容量和卡的数量均成倍增长。万卡集群尚可不依赖超节点,但十万卡集群不能依靠堆砌上千台服务器运行,需要将多个超节点组成 POD、再由多个 POD 组成更大集群。 交换机在超节点架构中的重要性显著提升。AI 算力网络对低时延、高带宽互联的需求已超出传统架构的承载能力。要突破 AI 集群的网络性能瓶颈,RDMA 技术已成为行业公认的解决方案。RDMA 通过主机卸载与内核旁路技术,让两个应用程序能够在网络上实现直接内存到内存的数据通信,应用程序发起传输后由 RNIC 硬件直接访问内存并发送至网络接口,全程无需 CPU 与内核深度介入。目前 RDMA 主流实现方案包括 InfiniBand、iWARP 及 RoCE 协议三类,其中 InfiniBand 可提供低于 2 微秒的传输时延并实现零丢包,RoCE v2 时延约 5 微秒但部署灵活性更高。相较传统服务器,AI 服务器新增 GPU 模组后需通过专用网卡与交换机实现高效互联,这使 AI 服务器组网新增后端网络(Back End)层级,单台服务器网络端口数量显著提升,直接拉动高速交换机、网卡、光模块等全产业链需求。超节点的规模化部署,进一步加速了网络架构的横向扩展(Scale-out)。随着AI 模型参数持续扩容,集群规模从百卡、千卡级快速向万卡、十万卡级跃迁,推动组网架构从 2 层向 3 层、4 层持续演进,将不断放大高速交换机的市场缺口。