处理效率，并可通过混合架构兼顾模型能力与推理成本。稀疏注意力由闪电索引器与细粒度词元选择机制组成。索引器为查询与此前词元计算分数，仅选取分数最高的前 k 个键值条目参与注意力计算，从而降低主注意力计算复杂度，并结合优化实现提升长上下文推理效率。线性注意力则改变计算形式，经典方法利用核特征映射和矩阵乘法结合律，先汇总键值信息，再供查询读取，避免显式构造完整的两两注意力矩阵自回归生成时可递推更新固定大小的状态，使注意力计算量随序列长度线性增长。GLM-5.3-Flash 采用两者结合的混合架构，在保持精准长上下文能力的同时降低长上下文推理成本。
