📚 Wiki 知识库

🏷️ 内存管理

5 篇

PagedAttention & RadixAttention

本文深入探讨了 PagedAttention 和 RadixAttention 两种技术。PagedAttention 通过类似操作系统的分页机制管理 GPU 内存,解决 KV Cache 的内部和外部碎片问题,显著提升并发处理能力。RadixAttention 则利用基数树索引缓存的前缀状态,实现跨请求的计算和内存复用,进一步优化推理性能。

技术LLM ✍ prasanna🕐 2026-07-28

No .md files until Series B:为何生产级 Agent 需要真正的内存层

文章以一个垂直 Agent 创业公司因使用 Markdown 文件管理内存而导致架构崩溃的真实案例为引子,深入探讨了在构建生产级、多用户、多 Agent 系统时,简单文件存储无法解决的五大核心难题:细粒度权限控制、并发写入冲突、时态查询准确性、可追溯的自我改进机制,以及海量数据的检索效率。作者指出,虽然 MD 文件适合早期原型,但一旦系统规模扩大,开发者往往会不自觉地重新发明数据库,这实际上是倒退。

技术Agent ✍ Vasilije🕐 2026-05-21

Codex CLI 内存机制详解

文章深入解析了 OpenAI Codex CLI 的内存架构,该工具通过本地 Markdown 文件异步生成和汇总记忆。文章详细介绍了记忆的写入与加载流程,指出其缺乏向量数据库、仅依赖关键词匹配及受限于本地文件系统等局限。最后,文章引入 Mem0 作为解决方案,通过 MCP 协议提供跨机器、跨工具的持久化智能记忆层,解决原生功能在扩展性和同步方面的不足。

技术OpenAI ✍ mem0🕐 2026-05-14

你的安全带,你的记忆

文章由 LangChain 创始人 Harrison Chase 撰写,指出代理框架(安全带)已成为构建智能体的主流方式且不会消失。核心观点在于:框架与代理的记忆紧密相连。若使用封闭框架或专有 API,开发者将失去对记忆的控制权,导致严重的供应商锁定效应。文章强调记忆对于个性化体验和数据飞 wheel 的重要性,呼吁开发者使用开源、模型无关的开放框架,以真正拥有并控制属于用户的长期记忆数据。

技术Agent ✍ Harrison Chase🕐 2026-04-12