Context Windows Are Not Memory: What AI Agent Developers Need to Understand
本文深入探讨了AI代理开发中的一个关键误解：大上下文窗口并不等同于记忆。作者通过办公室隐喻，清晰区分了上下文窗口（桌面）、检索（书架）、压缩（ZIP）和摘要（抽象）在代理认知栈中的不同角色。文章指出，模型本质上是无状态的，每次API调用都从零开始，依赖大上下文窗口会导致注意力分散、雪球效应和延迟问题。真正的记忆持久化需要代理扮演数据库管理员的角色，通过检索、压缩和摘要等技术，将原始数据存储在外部存储中，仅将相关信息放入上下文窗口。文章提供了具体的代码示例，展示了如何实现冲突解决和分叉存储模式，为构建可靠的AI代理提供了实用指导。
