第1011期 小路和你读AI论文
本期精选5篇高质量AI论文：1) AI智能体生态研究揭示协作产生强Allee效应，种群规模存在起飞阈值，对智能体安全有重要意义；2) BrickBench提出文本条件乐高组装的智能体基准，融合物理仿真验证；3) 思考惯性研究显示LLM被告知不思考时仍会输出显式推理，挑战一条指令关闭思维链的假设；4) 从形式化验证角度分析智能体自我改进的理论基础与极限；5) 提出工具型智能体的主动遗忘方法，可逆地整理上下文，累积输入token约减少50%，无需训练即可降低成本。
全部文档 / 标签: 自我改进
18 篇
本周 Top AI 论文精选
DAIR.AI 汇总了本周五篇重要的 AI 论文：(1) Harness Learning，通过 RL 训练提议模型在测试时修订 agent 的 harness 代码而非模型权重，实现可泛化的适应能力；(2) CorpusMap，微软提出的基于实体的语料库导航层，让 agent 搜索更准且省 34%-57% 的 token；(3) VeriHarness，Google 提出的 agentic 验证方法，揭示多数投票的盲点，在长周期任务上提升选择准确率；(4) HERMES，将仓库组件变成主动参与者的 harness，使 GPT-5.6 在仓库迁移任务上从 6.5% 提升至 31%；(5) Sakana AI 的 MASS，用同一基座模型兼任 agent、评估者与优化者，实现多智能体自我监督进化。
一文读懂 RSI：AI 能自己变得越来越聪明吗？
文章系统科普了递归式自我改进（RSI）的概念：会反思、改答案或保存记忆并不等于真正的自我进化。真正的 RSI 要求改动深入权重、工具或研发流程，且升级后的系统能更有效地进行下一轮升级。文章梳理了从输出级、学习级、工作流级到研发级的技术进展（Self-Refine、STaR、DGM、AlphaEvolve 等），解释了完整 RSI 尚未出现的原因：评估困难、奖励投机、边际收益递减与减速机制。最后给出安全治理框架和判断 RSI 声明真伪的八问验货清单。
RSI 可以跑实验之后呢：递归自我改进的现实边界
文章探讨了 Coding Agent 能够自动运行实验后，递归自我改进（RSI）是否会导致智能爆炸。作者认为，RSI 需要满足成果回传、自我增强和收益超开销三个条件，但实际中面临组合困难、收益递减和资源瓶颈。通过 autoresearch 实践，作者发现初始化阶段和关键决策仍需人类参与，因此更认同 Nathan Lambert 提出的 LSI（有损自我改进）概念：AI 会显著提升研发效率，但改进收益在传递中会打折，难以仅凭局部进展推导出持续加速。
OpenAI与Anthropic内部人员辞职后发帖引爆全球：一天1.2亿阅读
OpenAI和Anthropic前员工Jacob Coxon辞职后发帖，一天内阅读量达1.2亿。他透露两家公司正全力冲刺自我改进的超级智能，内部人员真心相信这可能在十年内毁灭人类，但出于竞争压力仍继续推进。帖子引发全球对AI安全与竞赛的深刻担忧。
万字长文 | Skill 的前世今生和设计哲学
文章系统梳理了 Anthropic Agent Skills 的来龙去脉与设计哲学。Skill 源于'过程性知识放哪儿'的问题，以文件夹加 SKILL.md 的极简形式，通过渐进式披露机制节省上下文成本，并在开放标准化后迅速被 Gemini CLI、GitHub Copilot 等广泛采纳。作者结合自身实践总结出核心判据：写可执行的判据而非感受、先写'不要做什么'、职责窄到一句话、把做不到的写进合同，并借鉴 Warp 的自我改进实践，探讨了 skill 基于人类反馈持续进化的工程化路径。
Agent 为什么也需要一套自己的 Git
随着 AI Agent 从聊天机器人演变为长期自我改进的系统，其 Memory、Skill、Script、定时任务和权限等状态不断变化且相互依赖，容易陷入不一致的"半升级"状态。文章提出 Agent 需要一套类 Git 的版本管理体系（Agent Native Git），让每次自我修改成为可查看、可审查、可回退的完整"升级包"。文中以 Hermes 的 Memory Tool 和 Skill Ledger 为案例，分析了现有实现的差距，并提出候选版本、变更记录、冲突检测、分层存储等四项关键能力，以及基于 libgit2、gix、Dulwich 等开源实现的技术方案。
Warp 如何基于 Claude 构建“自我改进”的 Agent
Claude 官方博客介绍了 Warp 团队如何基于 Claude 构建自我改进的 Agent。针对一次性提示词只能完成任务 80% 的痛点，Warp 设计了基于 Skills 的双层自我改进循环：内层 Skill 执行任务，外层 Improver Skill 定时拉取人类反馈，自动生成修改 Skill 的 PR，经人类评审合并后形成知识闭环。文章以 Issue 分诊 Agent 为实战案例，并总结六条实践经验：写原则而非规则、解释为什么、反馈零摩擦、Skill 保持小、反馈质量大于数量、重点投入 Improver Skill。同时辨析了 Skill 与 Memory 的区别，强调需假设反馈可能出错，并根据领域可验证性选择评估策略。
Φ-Bench 深度评测：大模型距离 AI 工程师还有多远
本文介绍 Φ-Bench（Frontier AI Infrastructure Benchmark），一个评估 LLM 基础设施工程能力的基准。它从顶会论文和开源仓库中筛选出 85 个真实高难度任务，分为 Kernel 补全（KFC）、长周期实现（LHI）和端到端优化（E2EO）三类。评测结果显示 Claude Opus 5 以 36.53 分领先，但所有模型在理解大型代码库和硬件相关优化上仍明显不足。分析指出优秀模型需具备假设验证、实验设计和可靠归因能力，Φ-Bench 探索了 AI 自我改进能力向基础设施层延伸的可能性。
Advancing Scientific Discovery with DeepEarth: 用突破机器实现25倍能力提升
文章提出'科学突破机器'概念：无需先实现AGI，通过范围受限的自我改进循环（sub-RSI loop）即可在特定问题上模拟ASI效果。作者团队将其应用于DeepEarth——一个多模态时空世界模型，用于全球环境智能。系统通过共享记忆、快速筛选实验预算、基于不变量的验证与计分卡机制，让智能体集群自主进行假设、实验与迭代。最终将模型调和均值从0.016提升至0.407，实现约25倍的能力提升，并发现单一编码器的改进未必带来融合能力的提升，环境信号（如AlphaEarth卫星嵌入）是最大杠杆。
Grok Bot: How to build a self-improving system with Grok 4.6 in 10 steps
本文介绍如何利用Grok 4.6构建一个自我改进的Grok Bot系统，通过10个步骤实现长期运行和持续优化。系统核心是一个包含六个文件的工作区，包括验收标准、工人合约、验证者合约、可信状态、经验教训和提升者，形成一个闭环：工人生成候选结果，验证者独立检查，通过后提升者更新可信状态。文章详细说明了每个文件的编写方法、运行流程和失败处理规则，并提供了成本计算公式，旨在帮助读者构建一个可靠、可迭代的AI代理系统。
Harness Engineering: 构建模型外围的系统
文章探讨了从“提示词工程”到“Harness Engineering（驾驭工程）”的范式转变。基于Lilian Weng的论文，指出AI Agent的成功不再仅依赖模型本身，而是其外围的系统（Harness）。Harness涵盖了工作流、上下文、记忆、权限和评估等运行时组件，类似于操作系统。与提供灵活性的框架不同，Harness专注于生产环境中的执行可靠性、持久状态和严格控制。文章还分析了三种设计模式及通向自我改进的优化阶梯，强调将持久状态存储于文件而非上下文中，是实现系统可靠性与自动优化的关键。
Karpathy 发布 12 页指南：构建自我改进的多代理图
文章解读了 Andrej Karpathy 关于构建自我改进多代理图的 12 页指南。核心内容包括 Loop、Chain、Swarm 等架构模式，以及利用知识图谱作为共享内存的重要性。文中对比了 Karpathy 的工程实践与 Anthropic 的动态工作流，强调了未来 AI 应用的壁垒在于图谱工程和多智能体协作。
如何基于 Codex 构建自我改进的外联系统
本文介绍了如何利用 Codex 构建一个自我改进的外联系统。通过将市场反馈记录为内存文件，Codex 自动评估并修改评分规则和话术配置，提交优化建议供人工审核，从而实现 GTM 策略的持续迭代与优化。
From Loop Engineering to Graph Engineering?
文章探讨了AI Agent架构从单一循环向图结构网络的转变。单一循环在自我改进中存在古德哈特定律、目标盲视、循环冲突和测量衰减等局限。成熟的系统如机器学习运营和公司治理，实际上是由多个互相监督、制约的循环组成的网络，这种结构比单一循环更可靠。
使用 Fable 5 构建自我改进 Agent 系统的 14 步指南
文章深入探讨了如何充分利用 Claude Fable 5 的潜能，而非仅仅将其视作上下文窗口更大的 Sonnet。作者提出了构建“自我改进系统”的 14 步路线图，区分了自我学习与自我改进，并详细阐述了基于 Loops、Dynamic Workflows 和 Routines 的三层架构。文章还提供了 Fable 5、Opus 和 Sonnet 在系统中的成本与任务分配策略。
使用 Fable 5 构建自我改进 Agent 系统的 14 步指南
本文介绍如何利用 Claude Fable 5 模型构建具有复合能力的自我改进 Agent 系统。文章首先澄清了 Fable 5 作为 Mythos 级模型的定位，强调了其支持“长周期自主会话”和“自验证”的核心能力。作者指出，真正的自我改进并非模型权重的更新，而是通过 loops、dynamic workflows 和 routines 这三种原语，构建起包含记忆层和评估反馈层的环境架构。文章还详细阐述了如何根据任务复杂度在 Fable 5、Opus 和 Sonnet 之间进行成本最优的路由配置。
我连续跑了几个月 Hermes Agent，最后发现：99% 的人根本没用对 AI Agent
文章通过作者几个月的实际测试，深入探讨了 Hermes Agent 与 ChatGPT/Claude 的核心区别：Hermes 具备本地记忆、自我改进和经验沉淀能力，越用越懂你。文章详细介绍了安装步骤、模型选择策略（如 GPT-5.5 起步）、Telegram 消息配置及核心指令，并提出了将 AI 视为“长期员工”而非简单工具的 8 大应用场景与安全建议。