Agent 可观测性需要反馈机制以驱动学习
文章指出 Agent 可观测性不仅用于调试,更是驱动系统学习的关键。区别于传统软件,Agent 系统必须将链路追踪与反馈信号(如用户显性反馈、隐性行为、LLM 评测或确定性规则)紧密闭环,以在模型、控制架线和上下文层面实现自动或人工驱动的持续改进。
文章指出 Agent 可观测性不仅用于调试,更是驱动系统学习的关键。区别于传统软件,Agent 系统必须将链路追踪与反馈信号(如用户显性反馈、隐性行为、LLM 评测或确定性规则)紧密闭环,以在模型、控制架线和上下文层面实现自动或人工驱动的持续改进。
文章深刻剖析了Agent可观测性与传统软件的核心差异,系统性地阐述了Trace结合Feedback在模型、环境和上下文三个层级的闭环学习机制,并提供了丰富的落地反馈来源与平台架构建议,对当前的Agent工程开发具有极高的时效性和指导价值。
文章系统解释了 AI 领域中 harness(套件/执行框架)的概念。作者指出 LLM 默认只能生成文本,要真正执行操作需要工具、调用语法、解析系统、结果回传和工具清单,这一切组成了 harness。文中区分了界面(如 Claude Code 的 TUI/GUI)与底层 harness(如 Anthropic Agent SDK、Codex App Server),并用厨房比喻说明 harness 与工具的关系。文章还解释了 MCP 的作用——类似'食谱',让代码可以在外部运行,以及 agent 的定义:LLM 与 harness 的结合体。
文章介绍了 MIT Media Lab 2026 年秋季开设的研究生课程 MAS.S62「How to AI an AI」,主题为自演化 AI(Self-Evolving AI)。课程提出四层演化框架:上下文演化(提示优化、记忆)、Harness 演化(agent 工具链自我改进)、模型演化(持续学习、self-play、测试时训练)、任务与环境演化(合成任务生成、世界模型)。文章详述了教学设计、评分结构、作业与顶会论文成果,并评价该课程是对松散领域的体系化定义尝试,建议以阅读清单和开源工具自学。
文章介绍 LangChain 如何为开源编码代理 Open SWE 构建模型路由器。作者首先通过 LangSmith 追踪数据分析任务类型与复杂度分布,发现许多任务无需前沿级模型;随后基于 Artificial Analysis 智能指数挑选快速、均衡、高性能三档模型(GLM-5.3-Flash、GPT-5.6 Sol、GPT-6 Astra);最后在 agent harness 的中间件层实现路由器,由分类模型根据任务标准选择最便宜可胜任的模型。结果显示每线程成本中位数降低 64%,质量无明显变化。文章强调路由决策应置于 harness 中,因其拥有网关所缺乏的任务与领域上下文。
文章系统科普了递归式自我改进(RSI)的概念:会反思、改答案或保存记忆并不等于真正的自我进化。真正的 RSI 要求改动深入权重、工具或研发流程,且升级后的系统能更有效地进行下一轮升级。文章梳理了从输出级、学习级、工作流级到研发级的技术进展(Self-Refine、STaR、DGM、AlphaEvolve 等),解释了完整 RSI 尚未出现的原因:评估困难、奖励投机、边际收益递减与减速机制。最后给出安全治理框架和判断 RSI 声明真伪的八问验货清单。
文章探讨 Jev 这类'认知 ASIC'式类型决策模型的意义。作者指出传统 LLM 的直觉只是符号层面的 System 1,与人类根植于具身经验的直觉存在本质断裂;CoT 推理模型则是显式展开的符号 System 2。Jev 将高频、受 Schema 约束的判断从语言生成中剥离,编译为强类型决策原语,实现低延迟确定性收敛,类比 CPU 与 ASIC 的分工。文章进一步论证 Agent 虽有因果介入权却缺乏不可逆的生存代价,无法产生真实品味,因此需构建价值声明治理体系,守住人类主体经验的溯源锚点。
MiniMax 宣布 Code CLI v0.4.12 以 MIT 许可证向全球开发者开源。在第三方 FrontierHarness Eval 评测中,MiniMax Code 取得了最高的通过率、最快的平均任务完成时间以及次低的 token 消耗。官方认为精心设计的 harness 能充分释放模型能力并减少开发者等待时间。开源后,开发者可以审查工具调用与权限处理机制,构建可靠的企业级应用。MiniMax 同时邀请社区参与问题反馈与修复,通过真实使用和社区审查持续强化安全防护,共同打造安全、可靠、高性能的 harness,实现 Intelligence with Everyone。
文章探讨了 Agent 评估(evals)的重要性与实践方法。作者将 Agent 定义为模型加 Harness 的组合,区分了模型评估与 Harness 评估,并对比了 SDLC 中的测试与 ADLC 中的评估差异。文章澄清了评估的核心概念(task、trial、outcome、grader 等),指出评估的冷启动门槛比想象中低,从真实失败案例中提取 20-50 个任务即可起步。作者强调应只构建任务完成率和正确性两个基础指标,主张评估结果而非路径,并建议纳入负向用例、部分得分机制,坚持阅读轨迹记录,关注分心、token 消耗、延迟、上下文膨胀和一致性等信号。
本文探讨了AI Agent开发中开放Harness与记忆所有权的重要性。作者引用Harrison Chase的观点——'不拥有Harness就不拥有记忆',并区分了Memory(从上下文窗口记录的事实,如用户偏好、仓库知识)和Intelligence(利用这些事实让会话更智能的机制)。文章详细介绍了Mem0的方案:通过custom_instructions和infer=False控制记忆提取,用语义+BM25+实体搜索进行检索,并借助Dream实现记忆合并、替代与综合。作者主张将记忆层置于Harness之外,存储于SQL、向量数据库和实体存储中,从而实现跨Harness的记忆与智能的可移植性,即使前沿实验室的循环保持封闭。
本文介绍 Alex L. Zhang 与 Omar Khattab 提出的观点:Transformer 不擅长组合泛化,而更好的泛化应主要由 harness 完成。Harness 位于外部世界与神经网络之间,通过 context offloading(上下文卸载)和程序化子 agent 调用两个机制,让每次 LM 调用看到的观察处于训练分布内(LID),把复杂、陌生的问题归约为简单、熟悉的问题。实验基于 Qwen3-30B 的递归语言模型(RLM)显示在长度泛化和跨域策略泛化上远胜裸 Transformer,30B RLM 甚至可逼近 GPT-5.5。作者提醒不要手工硬编码 harness 结构,数据 scaling 仍是最大驱动力,但 harness 决定 scaling 系数。
文章从工程视角系统讲解 Agent 概念:首先对比 AI 应用的三种形态——Chatbot(对话驱动)、Workflow(预设流程)与 Agent(ReAct 自主循环),分析各自优缺点及区分方法;随后给出最小 Agent 的循环伪代码,演示思考-决策-行动-感知的闭环机制;再梳理生产级 Agent 所需的八大能力模块,包括上下文管理、任务管理、记忆、连接器、Trace、容灾、编排与安全;最后探讨实际工程中三者混合使用的架构策略,如 Agentic Workflow、Workflow 包装为工具、前置路由分发等。
本文深度解读 omp 作者 Can Bölük 的《Harness Playbook》,提出 Agent Harness 是系统软件而非简单循环的核心命题。文章系统阐述 omp² 的架构蓝图:以唯一权威会话(DOM 树)解决 rewind/fork/resume 的状态一致性;沙箱只执行不决策;Convar 管值、Director 栈管行为的控制面设计;将模型兼容性作为结构化知识的推理层;精简工具名册以提升性能的深度内建工具;基于 RichText 流原语与 TLA+ 验证的渲染层;以及 Rust 核心 + Python 扩展的技术栈选择。文章认为该文将 Harness 工程提升为可推理的学科,同时指出其激进设计尚待落地验证。
DAIR.AI 本周精选五篇 AI 论文:1)Netflix 的 LLM Judge 生命周期管理,通过推理对齐的评分标准调优实现生产级评估,A/B 测试显著提升用户浏览转化;2)NVIDIA 的 Skill Lift,用配对运行测量 Agent Skill 的实际增益,发现结构扫描分数与质量几乎不相关;3)阿里巴巴 Scroll,以代码方式管理上下文,用事件日志与沙箱内核替代预设 schema,在长记忆基准上取得最佳成绩;4)JIT-Agent,按任务即时生成 Harness,使多个骨干模型大幅提升;5)Prime Intellect 开源长程任务 Harness,支持跨轨迹持久化历史、记忆与技能,实现可复利的自我改进。