🏷️ Hallucination

Agents Are Stuck in a Loop: Memory Growth and Propagation

文章深入探讨了 AI Agent 面临的记忆系统瓶颈：无限记忆增长（UMG）导致检索效率低下和噪声干扰，以及虚假记忆传播（FMP）利用思维链错误放大幻觉。作者指出现有的 RAG 系统因读写混合而加剧了该问题，并提出可以借鉴强化学习（RL）机制，根据任务验证结果对记忆进行奖惩打分，从而过滤无效记忆。