Wiki 知识库

上下文压缩和记忆(nanobot)

chengyongru 2026-09-07 4.9 KB 27.1K 109 𝕏 文章列表

作者介绍了 nanobot 的上下文压缩机制与长期记忆设计。上下文由 system prompt、历史消息和当前消息构成,当输入达到上下文窗口的 input budget 时,nanobot 压缩历史消息为新 summary,保留未发送的增量消息。生成摘要时通过模拟用户指令请求模型总结,并保持 system prompt 和工具定义一致以复用 KV cache 降低成本。对 OpenAI 原生压缩 API,nanobot 在加密 compaction item 之外额外生成文本 summary 供长期记忆使用。长期记忆通过 consolidator_archive 和 dream 两份提示词模板定制,用户可调整记忆筛选与整理规则,甚至整理成 skill。