> 数据图表

各位网友请教一下MantaKV 利用 CXL 交换机构建可扩展共享内存池的硬

2026-3-2
各位网友请教一下MantaKV 利用 CXL 交换机构建可扩展共享内存池的硬
浪潮元脑服务器操作系统 KOS 推出 KV Cache 管理系统 MantaKV,提升模型推理效率。MantaKV 基于 CXL 内存池化技术,采用 Prefill 阶段与 Decode 阶段解耦方式。该系统将 P 节点产生的海量 KV Cache 集中存储在 CXL 池化共享内存中,既直接供 D 节点解码使用(无需再次传输),又自然成为全局可用的持久缓存(无需卸载至 P 节点本地 SSD),将两次独立搬运合并为单次写入,以解决传输冗余问题。