本文由作者因遭遇 AI 智能体失控产生高昂费用的经历引出，旨在阐述构建生产级 AI 系统必须掌握的核心概念。文章提出了 AI 系统的通用公式：记忆（RAG）+ 思考（LLM + Tokens）+ 行动（Agents）+ 测量（Evals）。文中重点解析了 Tokens 与上下文窗口的成本与限制、嵌入向量与语义搜索的原理、RAG 检索增强生成的正确姿势、智能体循环中的工具使用与停止条件等关键技术细节，帮助开发者从“调参侠”进阶为真正的 AI 工程师。
文章探讨了在生产环境中实施智能体知识图谱的实际经验。作者指出，并非所有场景都需要图谱，大部分问题可通过元数据过滤或混合搜索解决。只有当需要多跳连接（如根因分析）时才需引入图谱。建议将图谱分为领域图、词汇图和主题图三层，并从简单的单智能体流程开始构建。
作者通过一次融资会议记忆被重新解读的经历，指出记忆的本质不是固定表示，而是一个持久系统：保留过去的证据，并随新证据不断重新编译其意义。文章批评将向量数据库、知识图谱、上下文窗口等当作记忆的常见误解，认为它们只是从记忆编译出的临时表示。作者提出记忆编译产生三类产物：状态（按序折叠事件得到）、检索（查找相关证据的工具）和上下文（为单次调用组装的有界视图），并类比编译器的中间表示（IR），指出每种表示只适合特定操作，记忆本身应是唯一不可丢弃的持久层。
文章讨论了Google和Anthropic将检索从单一应用中移出，转变为独立服务的新趋势。这种分离解决了旧RAG设置中的过时嵌入和基础设施耦合问题。通过将摄取与查询分离，并使用结构化单元代替原始文本块，可以显著减少语料库大小并提高向量相关性。
本文深入探讨了当前 AI 行业被忽视的“痛点”：AI 缺乏长期记忆。作者认为，比单纯追求更聪明的大模型或自主 Agent 更重要的是构建“持久认知层”。文章以 GBrain 为例，阐述了它如何超越传统的检索生成（RAG），通过自建知识图谱和“梦境周期”维护，实现对信息的真正理解与关系连接。这种能积累上下文、提供确定性智能的“记忆基础设施”，将成为未来 AI 的真正护城河。
本文指出构建 AI 产品的核心不在于选择模型，而在于架构设计。作者分享了 10 个实用经验，强调从工作流而非模型入手、重视检索优于微调、将提示工程视为系统工程、关注延迟优化、为智能体设置护栏、妥善处理记忆、建立评估管道以及优化成本。最终，多智能体系统将是未来趋势。
文章从第一性原理出发，深入探讨了 Agent 记忆机制的演变。作者指出单纯依赖 Context Window 会遭遇“中间迷失”效应，并借鉴认知科学将记忆分为感觉记忆、工作记忆和长时记忆。文章通过对比 Python 列表、Markdown 文件和向量搜索等不同技术层级的优劣，揭示了传统方案在持久性、语义理解和关联推理上的局限性，最终提出了结合图数据库和向量搜索的 Graph-Vector 混合解决方案。
作者基于 Anthropic 工程师删除 Claude Code 80% 系统提示词却无性能损失的事实，反思提示词与 Agent Skill 的实践方法。提出提示词不是八股文，应聚焦任务三要素（目标、规则、完成标准），减少角色铺垫和冗余规则，多给思考方向而非僵硬示例，并设定明确验收标准。关于 Skill 沉淀，强调只有高频且流程稳定的任务才值得做成 Skill，要写入独特经验而非通识废话，严格控制单一职责与边界，主文件精简并渐进式加载，且必须内置自检环节形成质检闭环。
本文是 Agent 高频面试题详解系列第一篇，聚焦 RAG（检索增强生成）链路。文章基于近两个月牛客网 82 场面试的统计，指出 RAG 是最常被追问的题目。内容先给出 RAG 整体架构图，解释为什么需要 RAG 及其与长上下文、grep、微调、工具调用、记忆等方案的边界；再沿离线、在线两条线逐环讲解：离线部分涵盖文档解析、切分策略、embedding 向量化、HNSW/IVF 索引原理；在线部分讲解问题改写、BM25 与向量多路召回、RRF 融合、交叉编码器重排等环节。每个环节均附上面试常见追问，并提供复习优先级参考。
文章针对 AI Agent 开发中记忆缺失、RAG 低信噪比切片、状态冲突与多主体污染三大痛点，测评了 EverOS Cloud（API v2）这一 Agent 记忆操作系统。核心机制包括语义事件切割、记忆整合消解冲突、多主体严格隔离，在 LoCoMo 基准上达 93.05% SOTA，减少 90% 以上 Token 消耗。其自进化技能引擎可将任务执行链路沉淀为 Case 并蒸馏为可复用 Skill，任务成功率最高提升 234.8%。接入仅需两行核心调用，支持记忆治理 API、多模态资料挂载、MCP 协议兼容 Claude Code 等工具，以及云/本地双模部署。作者认为其适合需要跨会话跟踪意图与沉淀业务 SOP 的场景。
本文提出了2026年LLM工程路线图，指出与LLM工作不只是提示词，生产级系统需要对LLM的工程化、部署和优化有深入理解。文章总结八大支柱：提示工程（将prompt当作代码管理）、RAG系统（嵌入、检索、重排）、上下文工程（管理上下文窗口中各类信息的取舍）、微调（LoRA/QLoRA等技术）、Agent（工具调用循环与编排、状态管理、重试逻辑），并为每个领域提供了大量免费开源学习资源，如Anthropic、OpenAI官方指南及多个GitHub教程仓库。
本期 INDIGO TALK 对谈字节前工程师郭宇，从 2015 年字节作为神经网络驱动公司的往事讲起，谈到抖音意外胜出的内幕、Vibe Coding 背后的决策负担与工程师倦怠、Agent OS 的未来图景、智能的五个层次与商品化，以及软件为何会像牛奶一样便宜。当软件可以随时生成、用完即丢，个人化软件让分发失去意义，我们真正要交付的是什么？最后讨论当工作不再是必选项时，年轻人该如何选择人生方向。
本文译自 Earendil Engineering 的《How Compaction Works in Pi》，讲解编程 Agent（如 Pi、Claude Code、Codex）中的上下文压缩机制。LLM 的上下文窗口有限，随着对话和工具调用不断积累，请求会超出上限。解决方案之一是压缩：用 LLM 生成的摘要替换较早的历史记录，同时原样保留近期消息。文章详细介绍了 Pi 的实现——触发时机（接近上限自动触发或 /compact 手动触发）、token 预算、压缩提示的设计（像一份交接简报，包含目标、进度和关键决定），以及压缩与提示缓存的关系：压缩会打破前缀缓存，导致后续请求需重新计算。
