Wiki 知识库

全部文档 / 作者: Siddharth / 标签: Agent

2 篇
清除

AI 的记忆机制:从 KV Cache 到智能压缩

文章深入探讨了 AI Agent 遗忘信息的根本原因。作者指出,问题通常不在于检索,而在于 KV Cache 在上下文过长时的处理机制。文章对比了 StreamingLLM(仅保留近期信息)与 SnapKV(基于注意力分数保留关键信息)的区别,并解释了模型如何通过“注意力权重”来决定哪些 Token 值得被记忆,从而实现 92% 的压缩比且不丢失关键信息。

技术 › LLM Siddharth 2026-04-2915.4 KB 134.9K 253 74

Agents Are Stuck in a Loop: Memory Growth and Propagation

文章深入探讨了 AI Agent 面临的记忆系统瓶颈:无限记忆增长(UMG)导致检索效率低下和噪声干扰,以及虚假记忆传播(FMP)利用思维链错误放大幻觉。作者指出现有的 RAG 系统因读写混合而加剧了该问题,并提出可以借鉴强化学习(RL)机制,根据任务验证结果对记忆进行奖惩打分,从而过滤无效记忆。

技术 › Agent Siddharth 2026-04-2025.0 KB 142.6K 163 67