如何提高 RAG 32x 的内存效率（附代码说明）
本文介绍了利用二进制量化技术将 RAG（检索增强生成）系统内存效率提高 32 倍的方法。作者以 Perplexity 和 Azure 为例，详细展示了如何使用 Llama Index、Milvus 向量数据库和 Groq 托管的 Kimi-K2 模型构建系统。该系统可在 30 毫秒内查询 3600 万个向量，并在 1 秒内生成响应。文章提供了从数据加载、生成二值嵌入、向量索引到检索生成的完整代码实现。
相关文档
How to Build a Grounded Document Agent
本文介绍如何构建一个带引用溯源的文档问答Agent（Grounded Document Agent）。核心问题是PDF解析质量决定答案上限：双栏排版、表格、图表等常被错误扁平化。项目使用LlamaParse在云端进行布局感知的Markdown解析并保留页码元数据，随后通过Ollama本地运行nomic-embed-text生成向量索引，配合CitationQueryEngine检索最相关的段落并生成带编号引用的答案。解析结果按文件哈希缓存以节省成本。界面展示页码、检索文本和相关度评分，让用户可检验引用背后的原始证据，区分解析、检索或生成阶段的错误。
私有知识库从 demo 到生产，中间差了 8 层工程
文章探讨了私有知识库项目在实际落地中遇到的挑战。许多 Demo 看起来聪明，但在生产环境中常因检索链路混乱而答非所问。作者指出单纯升级模型无济于事，根本在于构建稳固的 RAG 底座。文章详细拆解了从数据源、解析、清洗、切分、Embedding 到索引、检索、生成及评估的 8 层最小可用架构，并阐述了 Agentic RAG 如何通过决策层优化检索策略。最后提供了从 0 到 1 的搭建步骤及技术选型建议，强调权限过滤、混合检索与持续评估的重要性。
Agent 高频题 01. 讲讲你的 RAG 链路
本文是 Agent 高频面试题详解系列第一篇，聚焦 RAG（检索增强生成）链路。文章基于近两个月牛客网 82 场面试的统计，指出 RAG 是最常被追问的题目。内容先给出 RAG 整体架构图，解释为什么需要 RAG 及其与长上下文、grep、微调、工具调用、记忆等方案的边界；再沿离线、在线两条线逐环讲解：离线部分涵盖文档解析、切分策略、embedding 向量化、HNSW/IVF 索引原理；在线部分讲解问题改写、BM25 与向量多路召回、RRF 融合、交叉编码器重排等环节。每个环节均附上面试常见追问，并提供复习优先级参考。
Agent Memory Is Not a Search Problem
文章指出 Agent 记忆系统的核心问题不是检索而是上下文组织。跨 15 个模型、20 万模拟对话的研究显示，任务拆分为多轮会使准确率平均下降 39%，而合并为单轮可恢复大部分损失。文章回顾了 Agent 记忆的四个发展阶段（全量历史、滚动摘要、向量检索、知识图谱），批评语义/情景/程序性记忆分类无法指导检索决策，并主张按六种问题类型构建六种上下文形态。作者基于开源 Graphiti 引擎，以客户历史为例实操演示如何让记忆系统在模型运行前正确组织上下文，避免基于过时信息的自信回答。
10 个带你从基础检索到生产级 AI 系统的 RAG 项目
文章指出仅掌握基础的'chat with PDF'式 RAG 流水线（分块、嵌入、向量检索、LLM）不足以构建真实生产系统，并推荐 10 个进阶项目：混合检索（BM25+向量）、元数据过滤、重排序、上下文分块、SQL+向量混合、知识图谱+向量、纠错式 RAG、自感知 RAG、多模态等。每个项目均说明要解决的问题、系统架构、技术栈（Python、pgvector、LangGraph、Neo4j 等）及学习要点，帮助开发者从语义相似度走向关键词匹配、结构化过滤、关系推理与检索质量反馈等生产级能力。
把 Jev 插进 RAG：爆速与降本到底能不能实现，实测验证
本文实测了 TypeSafe AI 发布的不生成文本的 AI 模型 Jev 在 RAG 检索流程中的效果。作者在重排、回答判断、检索前置门卫三个环节插入 Jev 进行验证：重排方面，Jev 以八分之一的成本达到接近 Cohere Rerank 的精度；在调用 LLM 之前用 Jev 判断「无法回答」，响应速度提升 5.6 倍，成本降至二十七分之一；在检索之前拦掉范围外提问，速度提升 7.4 倍，成本降至七十五分之一。此外，Jev 还能一次请求同时完成重排和回答判断。结论是用 Jev 改善 RAG 速度与成本可行，但需慎重设定阈值，避免误拦可回答问题。
从0到1，搭建起你的个人知识库
文章从AI对话缺乏长期记忆的痛点切入，系统讲解了个人知识库的作用、分类与搭建方法。作者介绍了两大主流方案：以检索为中心的RAG知识库和以持续维护页面为中心的LLM Wiki知识库。RAG部分通过Dify演示了从资料上传、切片、混合检索索引建立到Agent接入的完整流程；LLM Wiki部分则介绍了Karpathy提出的三层结构（raw sources、wiki、schema），强调Markdown页面对AI友好且透明可查。最后作者分享了自己结合两者优势的混合方案，帮助读者根据实际需求选择合适的知识库路线。
全网刷屏的 Jev 到底怎么用？8 个能直接抄的案例
本文介绍了 AI 圈新火的模型 Jev——一个不做文本生成、只返回带概率判断的决策模型。文章讲清了它的三种用法（是非判断、选项选择、打分），提供了四种 30 分钟内可上手的接入方式（官方 Skill、Vercel、OpenRouter、SDK），并整理了 8 个可直接复用的真实案例：7 秒订机票、代码审查、工单分流、简历初筛、语义搜索、AI Agent 路由、RAG 重排、动态 UI 拼装等。还总结了 5 个反直觉要点（不写字、零幻觉指格式而非正确性、不会拒绝等）、官方自曝的雷区（不会算术、不懂日期先后、易被提示词注入），以及不适合使用的场景。
LEANN：省97%存储的轻量级本地RAG检索方案
传统RAG存储成本高昂，百万级文档索引动辄数百GB，本地设备难以承载。LEANN采用新思路：不存储所有向量，只保留精简的图结构，检索时按需计算，实现存储节省97%且精度不减。它可在笔记本上全本地运行，支持索引文件系统、邮件、浏览器记录、微信/iMessage、ChatGPT/Claude对话、Slack/Twitter实时数据及代码库，零云成本、数据不出设备、注重隐私。该项目已入选MLsys 2026，适合关注隐私的个人语义搜索开发者。
开源｜我给 DeepSeek Harness 接入了 Milvus
作者为爆火的 DeepSeek Harness（DSH）开发了 Milvus 向量数据库插件 dsh-milvus 并开源。文章解析了 DSH 'Everything is a Plugin' 的微内核架构价值，说明为何将 Milvus 集成做成 Plugin 而非 Skill：Plugin 可硬性限制执行边界（如只读操作、limit 上限），避免模型幻觉带来的风险。文中还给出从 Docker 启动 Milvus、安装 DSH CLI 与插件、配置 Profile 到让 Agent 完成列表、Schema 描述、Scalar Query 和语义搜索的完整实战教程。
RAG 治不了 Agent 记忆过期：时序上下文的四个机制与开源路线实操
文章剖析了标准 RAG 在处理新旧事实冲突上的结构性缺陷：向量检索没有时间轴、不理解'取代'关系，只能把矛盾甩给模型猜测。作者提出时序上下文的四个核心机制——有效期标记、取代关系、软删除与遗忘、审计日志与证据链，并以 Graphiti 和 OpenContext 两条开源路线为参照讲解落地方式。OpenContext 提供基于时序上下文图的 remember/recall/improve/forget 四动词 API，在数据层解决事实过期问题；Graphiti 则专注作为可插拔的时序知识图谱记忆引擎。文末用律所预算变更案例演示了完整代码流程。
《指挥 AI，做出一个企业级 Agent》08：企业 RAG 不是上传几个 PDF
文章指出企业 RAG 不仅仅是上传 PDF 回答问题，更需关注文档版本、权限、来源追溯及停用管理。作者通过模拟企业真实文档环境，构建了包含版本控制和过滤机制的评测体系，强调了可靠检索与诚实无答案的重要性，并分享了针对小规模知识库的技术选型经验。
