Wiki 知识库

全部文档 / 标签: trace

2 篇
清除

npm 创始人 Laurie Voss:如何判断你的 AI 智能体是否足够优秀

本文整理了 npm 联合创始人 Laurie Voss 在 AI Engineer 纽约 workshop 上关于 AI Agent 评估方法的分享。他从一份分析师共识加总为 116% 的特斯拉研报切入,阐述 trace(日志)与 eval(评估)的区别,强调先人工精读十几条记录再设计评估的重要性。文章详细介绍了从免费代码断言、LLM 裁判到黄金数据集校准裁判的完整评估体系,指出选择正确的评估问题比调优评估更重要,并以'评结果而非评步骤'为原则,演示了通过一行 prompt 修改将可操作性从 5/16 提升到 48/48 的案例。最后他强调将评估接入 CI、区分能力评估与回归评估,才能持续保证 Agent 质量。

技术 › Agent Saito 2026-10-278.6 KB 453 2 84

为什么我们需要 Agent 评测

本文是 Agent 评测系列的第一篇文章,作者结合业界共识与个人实践,阐述了 Agent 评测的重要性。文章从一次线上问题修复切入,说明传统后端开发流程难以应对 Agent 的概率性输出与执行路径的不确定性。作者给出 Agent 评测的定义:围绕具体任务,按明确标准检查 Agent 执行过程(trace)和结果的方法。核心价值包括:防止越修越坏、判断改动是否真的变好、确认任务稳定性、明确完成标准、指导迭代优先级。文章还提出评测落地的五步流程:整理任务、写清标准、准备一致环境、运行新旧版本对比、持续更新案例,并提醒注意评测集划分、标准本身可能出错等问题。

技术 › Agent 黄同学h 2026-10-1220.2 KB 15.5K 236 76