Wiki 知识库

全部文档 / 标签: 生产实践

4 篇
清除

Shipping a Self-Improving Agent

文章介绍 Pace 公司如何在其保险文档提取 Agent 中实现自我改进。系统通过三个核心机制优化:1) 子代理委派——基于历史运行构建字段关系图,优化 fanout 分组,减少重复工作,降低 19% 成本和 16% 延迟;2) 模型路由——利用历史 trace 学习各子代理任务难度,将子任务路由到合适模型,部分场景成本降低 68% 且无精度损失;3) 上下文优化——通过 Review Agent 诊断错误根因、Proposer Agent 提出经验证的上下文或 Harness 修复,使每流程提取错误减少 75%。核心论点是随任务积累,系统可持续逼近最优的委派、模型与上下文组合。

技术 › Agent Arun J Moorthy 2026-09-169.0 KB 11.2K 156 77

Why model routing must be in the harness

本文探讨了模型路由为何应置于代理的harness中而非网关层。随着代理部署扩大,推理成本上升,模型路由成为控制成本的关键。作者基于生产数据指出,harness层路由可降低58%成本且不损质量,因为harness能结合会话缓存、任务状态和结果来动态选择模型,而网关缺乏这些上下文。文章强调,模型切换需权衡缓存失效成本,只有harness能判断何时切换最经济。

技术 › LLM Abhay Singhal 2026-08-1514.0 KB 173.3K 349 75

百万级文档RAG实战:检索质量由重排和查询改写决定,模型选型反而是小事

本文总结了HN上关于RAG系统实战的讨论,核心结论是检索质量主要由重排和查询改写等流程环节决定,而非模型选型。文章整理了微软Pamela Fox和Usul AI作者Abdellatif等一线工程师的学习清单,涵盖生产级RAG的ROI排序、检索理论、开源模板、模型评测、存储基础设施及产品案例,并指出query generation和reranking是性价比最高的优化点,chunking最耗时。

技术 › LLM yibie 2026-08-136.4 KB 77

构建长时间运行 AI Agent 的 5 种设计模式

文章探讨了在构建需要持续运行数天甚至数周的 AI Agent 时所面临的挑战,并介绍了 Google Cloud Agent Runtime 支持的五种核心设计模式。这些模式包括:检查点与恢复以确保容错性、委托审批以实现人机协同、分层记忆架构以管理长期上下文、环境处理以应对无监督任务,以及针对多 Agent 协同的舰队编排。文章强调了状态管理、治理策略和基础设施在将 Agent 从演示转化为生产级系统中的重要性。

技术 › Agent Google Cloud Tech 2026-04-2322.0 KB 175.7K 1.3K 86