《指挥 AI，做出一个企业级 Agent》09：接通大模型只是开始，真正难的是不让它越权
文章探讨企业级 Agent 开发中如何防止 AI 越权。作者指出接通大模型仅是第一步，关键在于通过服务端规则、来源白名单和 Human-in-the-loop 机制约束模型行为。文章介绍了流式输出协议、AI 原稿与人工终稿分离、以及模型不可用时的降级策略，强调企业需建立可追踪的责任链路，确保 AI 只提供建议，不直接产生业务结果。
🏷️ 企业级Agent
2 篇《指挥 AI，做出一个企业级 Agent》08：企业 RAG 不是上传几个 PDF
文章指出企业 RAG 不仅仅是上传 PDF 回答问题，更需关注文档版本、权限、来源追溯及停用管理。作者通过模拟企业真实文档环境，构建了包含版本控制和过滤机制的评测体系，强调了可靠检索与诚实无答案的重要性，并分享了针对小规模知识库的技术选型经验。