文章探讨了顶级科技公司正在秘密研发的架构转变——状态空间模型（SSM）。旨在解决 Transformer 架构在长序列处理中的计算成本高和内存消耗大的问题。文章详细解析了 SSM 的工作原理、相比 LLM 的优势（线性时间复杂度、恒定内存），并展示了 NVIDIA、IBM 和 Microsoft 等公司在 Nemotron、Bamba 和 SambaY 等混合架构上的实际应用进展。
本文探讨了科技巨头如 NVIDIA、Meta 和 Microsoft 正在秘密研发的状态空间模型（SSM），旨在解决 Transformer 架构在长序列处理中的计算和内存瓶颈。文章详细介绍了 SSM 的线性复杂度优势，并列举了 NVIDIA Nemotron-H 和 IBM Bamba-9B 等混合模型如何通过替换 Attention 层来提升推理速度和降低内存消耗。此外，文中还回顾了 S4 和 Mamba 等 SSM 架构的演变，展示了 SSM 在大模型未来的巨大潜力。
文章深入探讨了 AI Agent 遗忘信息的根本原因。作者指出，问题通常不在于检索，而在于 KV Cache 在上下文过长时的处理机制。文章对比了 StreamingLLM（仅保留近期信息）与 SnapKV（基于注意力分数保留关键信息）的区别，并解释了模型如何通过“注意力权重”来决定哪些 Token 值得被记忆，从而实现 92% 的压缩比且不丢失关键信息。
文章深入探讨了 AI Agent 面临的记忆系统瓶颈：无限记忆增长（UMG）导致检索效率低下和噪声干扰，以及虚假记忆传播（FMP）利用思维链错误放大幻觉。作者指出现有的 RAG 系统因读写混合而加剧了该问题，并提出可以借鉴强化学习（RL）机制，根据任务验证结果对记忆进行奖惩打分，从而过滤无效记忆。
