上下文压缩和记忆(nanobot)
作者介绍了 nanobot 的上下文压缩机制与长期记忆设计。上下文由 system prompt、历史消息和当前消息构成，当输入达到上下文窗口的 input budget 时，nanobot 压缩历史消息为新 summary，保留未发送的增量消息。生成摘要时通过模拟用户指令请求模型总结，并保持 system prompt 和工具定义一致以复用 KV cache 降低成本。对 OpenAI 原生压缩 API，nanobot 在加密 compaction item 之外额外生成文本 summary 供长期记忆使用。长期记忆通过 consolidator_archive 和 dream 两份提示词模板定制，用户可调整记忆筛选与整理规则，甚至整理成 skill。
