百万级文档RAG实战：检索质量由重排和查询改写决定，模型选型反而是小事
本文总结了HN上关于RAG系统实战的讨论，核心结论是检索质量主要由重排和查询改写等流程环节决定，而非模型选型。文章整理了微软Pamela Fox和Usul AI作者Abdellatif等一线工程师的学习清单，涵盖生产级RAG的ROI排序、检索理论、开源模板、模型评测、存储基础设施及产品案例，并指出query generation和reranking是性价比最高的优化点，chunking最耗时。
相关文档
Agent 高频题 01. 讲讲你的 RAG 链路
本文是 Agent 高频面试题详解系列第一篇，聚焦 RAG（检索增强生成）链路。文章基于近两个月牛客网 82 场面试的统计，指出 RAG 是最常被追问的题目。内容先给出 RAG 整体架构图，解释为什么需要 RAG 及其与长上下文、grep、微调、工具调用、记忆等方案的边界；再沿离线、在线两条线逐环讲解：离线部分涵盖文档解析、切分策略、embedding 向量化、HNSW/IVF 索引原理；在线部分讲解问题改写、BM25 与向量多路召回、RRF 融合、交叉编码器重排等环节。每个环节均附上面试常见追问，并提供复习优先级参考。
RAG 像素级拆解实战：索引、混合检索与评测体系
本文通过 Notebook 实战项目，对 RAG 系统的索引与检索过程进行了深度解析。内容涵盖文档切分（Chunking）、SQLite FTS5 倒排索引、BM25 关键词检索、向量 Embedding 语义检索，以及基于 RRF 的混合检索召回策略。此外，文章还介绍了如何构建评测集来验证检索效果，提供了完整的代码与数据结构示例，旨在帮助开发者理解 RAG 底层运作原理与工程实践细节。
私有知识库实战：查询改写、混合检索与重排优化 RAG
本文是私有知识库构建系列的第 3 篇，旨在解决基础 RAG 系统在短问题召回、关键词匹配及结果排序上的缺陷。作者详细介绍了通过 LLM 进行查询改写以补全上下文，利用 PostgreSQL 结合 Jieba 实现混合检索（向量+BM25），以及使用 RRF 算法融合检索结果，从而显著提升知识库的日常可用性。
把 Jev 插进 RAG：爆速与降本到底能不能实现，实测验证
本文实测了 TypeSafe AI 发布的不生成文本的 AI 模型 Jev 在 RAG 检索流程中的效果。作者在重排、回答判断、检索前置门卫三个环节插入 Jev 进行验证：重排方面，Jev 以八分之一的成本达到接近 Cohere Rerank 的精度；在调用 LLM 之前用 Jev 判断「无法回答」，响应速度提升 5.6 倍，成本降至二十七分之一；在检索之前拦掉范围外提问，速度提升 7.4 倍，成本降至七十五分之一。此外，Jev 还能一次请求同时完成重排和回答判断。结论是用 Jev 改善 RAG 速度与成本可行，但需慎重设定阈值，避免误拦可回答问题。
How I Built pragatiLM?
作者详细介绍了 pragatiLM 的构建过程——一个只基于用户提供的源（PDF、网页、YouTube 视频、字幕文件或粘贴文本）作答并附带可点击引用的 AI 笔记本。文章系统讲解了基础 RAG 的原理及其三大失效点：问题作为搜索键不佳、存储只单向单次搜索、输出缺乏自检。pragatiLM 采用九阶段检索管线：将问题转化为五个搜索变体、并行多通道检索、基于排名一致性融合、重排序、答案 grading，低分时基于缺失诊断再次检索，极低分时拒答。文章还涵盖基础设施、消融实验测试等内容。
From rg to zg: Local Search Beyond Keywords
阿里Qwen团队开源了zg（zvec-grep），一个面向人类和Agent的本地优先搜索基础设施。zg结合向量搜索、BM25和ripgrep的精确匹配能力，从本地代码和文档中提取、组织并索引内容，将本地检索从关键词匹配扩展到语义发现、相关性排序和精确验证。它支持CLI和MCP接口，可自动发现并配置Codex、Claude Code、Cursor等工具，减少Agent的搜索迭代、工具调用和上下文消耗。所有扫描、索引和嵌入生成默认在本地设备运行，保护数据隐私。
Agentic Knowledge Graphs: what actually works in production
文章探讨了在生产环境中实施智能体知识图谱的实际经验。作者指出，并非所有场景都需要图谱，大部分问题可通过元数据过滤或混合搜索解决。只有当需要多跳连接（如根因分析）时才需引入图谱。建议将图谱分为领域图、词汇图和主题图三层，并从简单的单智能体流程开始构建。
Google和Anthropic对检索的共识：从单一应用到独立服务
文章讨论了Google和Anthropic将检索从单一应用中移出，转变为独立服务的新趋势。这种分离解决了旧RAG设置中的过时嵌入和基础设施耦合问题。通过将摄取与查询分离，并使用结构化单元代替原始文本块，可以显著减少语料库大小并提高向量相关性。
How we built our knowledge base
Cerebras 分享了构建其内部知识库的经验。该知识库每天处理超过 15,000 个问题，集成了 Slack、GitHub 等多种数据源。文章详细介绍了如何通过 Postgres 存储 embeddings，并采用混合搜索策略（全文搜索、向量搜索、IDF 加权、时间衰减）来高效检索非结构化对话数据，解决了信息分散和匹配精度的问题。
Agent 的数据面概念扫盲-建立技术侧认知体系
本文深入解析了 Agent 数据面的核心概念，将其比作操作系统的内存管理单元。文章详细阐述了 Context Engineering 的演变、Session/Thread/Profile 的架构差异，以及 Session Memory 与 Long-term Memory 的区别。作者还重点介绍了 Hermes 中的 Memory 设计方案、SQLite FTS5 与 BM25 算法原理，以及向量检索与关键词检索在 RAG 中的混合应用，旨在为开发者建立一套完整的 Agent 数据面技术认知体系。
让RAG长出脑子：Agentic RAG的多步推理实践
文章指出传统单轮 RAG 在处理复合问题时存在检索不足或幻觉的缺陷，提出通过 Agentic RAG（多步推理）来解决。核心思路是将 LLM 从被动应答升级为主动调度的指挥官，利用 ReAct（推理-行动循环）机制，自主决定检索次数和工具调用。文中详细展示了如何封装检索工具、执行函数（含权限过滤、混合检索）以及编写多步推理循环代码，实现复杂问题的精准回答。
构建生产级 AI 系统必须掌握的 6 个核心概念
本文由作者因遭遇 AI 智能体失控产生高昂费用的经历引出，旨在阐述构建生产级 AI 系统必须掌握的核心概念。文章提出了 AI 系统的通用公式：记忆（RAG）+ 思考（LLM + Tokens）+ 行动（Agents）+ 测量（Evals）。文中重点解析了 Tokens 与上下文窗口的成本与限制、嵌入向量与语义搜索的原理、RAG 检索增强生成的正确姿势、智能体循环中的工具使用与停止条件等关键技术细节，帮助开发者从“调参侠”进阶为真正的 AI 工程师。
