Wiki 知识库

全部文档 / 作者: Vikas gupta

3 篇
清除

RAG架构详解:检索、增强与生成

本文深入解析了生产级RAG(检索增强生成)系统的完整架构。文章首先指出LLM的局限性——无法访问私有数据,而RAG通过外部知识检索来弥补这一缺陷。然后详细介绍了系统的两大核心平面:知识平面(离线索引)和运行时平面(在线问答)。知识平面涵盖数据源、解析-分块-嵌入流水线以及向量索引;运行时平面则描述了用户查询、检索重排、LLM生成和答案引用的完整流程。文章还逐步拆解了查询生命周期,包括查询嵌入、Top-K检索、重排增强和生成,并强调了监控指标的重要性。

技术 › LLM Vikas gupta 2026-08-2020.4 KB 260.7K 69 73

From Prompt to Response Inside an LLM: A Visual Step-by-Step Journey With Code

本文通过代码示例和可视化图表,深入剖析了大型语言模型(LLM)从接收提示到生成响应的完整内部流程。内容涵盖分词(Tokenization)、嵌入与位置编码(Embeddings and Positional Encoding)、自注意力机制(Self-Attention)等核心环节,并提供了使用tiktoken和HuggingFace库的实用代码,帮助读者理解模型如何处理文本、构建上下文并生成输出。文章旨在打破“Transformer魔法”的黑箱,为技术爱好者和开发者提供直观、可操作的LLM内部工作原理指南。

技术 › LLM Vikas gupta 2026-08-1519.6 KB 13.6K 14 77

LangGraph 生产环境最佳实践

本文总结了将 LangGraph 智能体从原型推向生产环境的最佳实践。针对高并发、连接池耗尽等线上常见故障,文章提出了四大核心支柱:状态与检查点管理、系统可靠性(含重试与人类介入)、可观测性及部署扩展。作者详细解析了如何科学设计状态结构、正确选择 Postgres 检查点策略与线程隔离,并提供了避免无限工具循环、实现幂等性恢复的健壮代码模式,助力构建稳定可靠的线上系统。

技术 › Agent Vikas gupta 2026-08-0922.0 KB 8.5K 18 92