> 数据图表咨询大家Meta MTIA 芯片对比2025-3-6Meta 芯片的架构从根本上专注于为服务排名和推荐模型提供计算、内存带宽和内存容量的适当平衡。Meta 第二代加速器由 8x8 处理元件 PE 网格组成,这些 PE 显著提高了密集计算性能(比 MTIA v1 提高了 3.5 倍)和稀疏计算性能(提高了 7 倍)。Meta 的新 MTIA 设计还具有改进的片上网络 (NoC) 架构,该架构将带宽提高了一倍,并允许我们以低延迟在不同 PE 之间进行协调。为了支持下一代芯片,Meta 开发了一个大型机架式系统,最多可容纳 72 个加速器。它由三个机箱组成,每个机箱包含 12 个板,每个板装有两个加速器。早期结果表明,在 Meta 评估的四个关键模型中,下一代芯片的性能已经比第一代芯片提高了 3 倍。在平台级别,凭借 2 倍的设备数量和强大的 2 插槽 CPU,我们能够实现比第一代 MTIA 系统高 6 倍的模型服务吞吐量和 1.5 倍的每瓦性能提升。信达证券综合其他