改一次 Prompt，怎么知道 Agent 有没有悄悄变差
文章探讨了在企业级 Agent 开发中，如何通过建立版本化固定案例集和审计日志来准确评估模型更新后的质量变化。强调不能只看平均分，需逐条对比案例的改善与退步，并实施一票否决机制以确保安全和可追溯性。
全部文档 / 作者: jager / 标签: 风险控制
2 篇
《指挥 AI，做出一个企业级 Agent》09：接通大模型只是开始，真正难的是不让它越权
文章探讨企业级 Agent 开发中如何防止 AI 越权。作者指出接通大模型仅是第一步，关键在于通过服务端规则、来源白名单和 Human-in-the-loop 机制约束模型行为。文章介绍了流式输出协议、AI 原稿与人工终稿分离、以及模型不可用时的降级策略，强调企业需建立可追踪的责任链路，确保 AI 只提供建议，不直接产生业务结果。