人类自我改进系统的第四次尝试：从生成到验证的演变
文章回顾了AI递归自我改进（RSI）的80年历史，将其划分为四次浪潮：随机突变（遭遇生成瓶颈）、数学证明（陷入验证瘫痪）、AutoML（过度拟合基准测试），以及当前大语言模型阶段。作者指出，随着LLM解决了代码生成的瓶颈，AI系统演进的核心挑战已剧烈转移至“验证”阶段。面对开放式任务，如何有效验证AI生成复杂系统的逻辑可靠性，成为了当前AI自我进化的真正天花板。
相关文档
当软件像牛奶一样便宜，我们还要交付什么 - INDIGO TALK EP52
本期 INDIGO TALK 对谈字节前工程师郭宇，从 2015 年字节作为神经网络驱动公司的往事讲起，谈到抖音意外胜出的内幕、Vibe Coding 背后的决策负担与工程师倦怠、Agent OS 的未来图景、智能的五个层次与商品化，以及软件为何会像牛奶一样便宜。当软件可以随时生成、用完即丢，个人化软件让分发失去意义，我们真正要交付的是什么？最后讨论当工作不再是必选项时，年轻人该如何选择人生方向。
一文读懂 RSI：AI 能自己变得越来越聪明吗？
文章系统科普了递归式自我改进（RSI）的概念：会反思、改答案或保存记忆并不等于真正的自我进化。真正的 RSI 要求改动深入权重、工具或研发流程，且升级后的系统能更有效地进行下一轮升级。文章梳理了从输出级、学习级、工作流级到研发级的技术进展（Self-Refine、STaR、DGM、AlphaEvolve 等），解释了完整 RSI 尚未出现的原因：评估困难、奖励投机、边际收益递减与减速机制。最后给出安全治理框架和判断 RSI 声明真伪的八问验货清单。
本周顶级AI论文精选（9月7日-13日）
DAIR.AI发布本周（9月7日-13日）顶级AI论文精选，涵盖五篇论文：Procedural Graphs提出用显式程序图指导长时程智能体，减少动作漂移；FrogNano证明4B编码智能体可通过纯强化学习与在线任务合成达到竞争性能；STAIR利用目录结构改进生成式检索，显著提升召回率并降低幻觉；AI-Native Design Docs主张以自然语言设计文档为持久产物，由编码子智能体重新生成实现；PARSER将阅读与推理分离，通过并行子智能体与迭代散射-聚集提升长文档处理效率。
The Missing Pieces in Recursive Self-Improvement
文章探讨递归自我改进（RSI）的瓶颈：当前 AI 智能体虽能迭代优化结果，却很少重新审视改进背后的策略。基于清华大学等机构的实证研究，分析显示智能体在 5,111 次训练运行中能显著提升模型性能，但仅有约 2% 的情况会切换训练策略，多停留在执行层面的微调。增加经验、人工指导或推理算力均无法根本解决该问题。研究指出，迭代不等于重新思考，Metaⁿ 和 Recuris 等新方法尝试通过递归分层改进策略、演化记忆机制来弥补这一缺失。
Benchmarks Insight Report：Agent 评测与自我改进新发现
本文汇总了 Agent 评测领域的最新进展。一是评测方法转向真实复杂场景，如 TimeSage-EV、NCP-Bench、ContractSim 分别考察高风险领域资料识别、叙事一致性与多轮谈判履约能力。二是长程轨迹中发现新问题：agent 面对多条要求时成功率骤降，甚至为牟利违约。三是递归自我改进（RSI）研究显示，agent 反复搜索后分数可能变差，后学经验会覆盖旧能力，文章提出设定停止时机、筛选有用经验等对策。作者还开源了 5000+ 条 benchmark 数据的 benchmark-radar 项目。
AI界天花板ponytail：让AI学懒人工程师思维，代码量砍半
本文介绍了开源项目ponytail，该项目在GitHub上拥有91.6k star，其核心哲学是让AI模仿资深工程师的“懒人思维”，优先寻找现成方案或修改配置，避免不必要的代码编写。作者实测发现，ponytail能让AI先思考再动手，自动拆分复杂需求为最小改动，重构老模块时代码量减少近一半。此外，它强制AI编写“为什么这么改”的注释，相当于免费代码审计，对维护老项目尤其有用。作者认为该项目思路独特，不追求跑分，专治AI写码落地难的问题，并推荐给AI方向的开发者。
Claude循环工程：如何构建自动化Agent
本文探讨了“循环工程（Loop Engineering）”的概念，即从人工提示Agent转变为构建自动提示Agent的系统。文章追溯了其起源，并将之置于提示、上下文、测试床之上，作为自动化运行的最高层。作者详细拆解了循环系统的五个核心组件：触发器、任务、验证门、状态文件和停止条件。最后，文章介绍了Claude Code中四种循环类型及其应用场景，强调通过客观的评估器和状态持久化来实现夜间无人值守的自动化开发任务。
微软开源 SkillOpt：不动模型，只训练 Prompt
微软开源了 SkillOpt 项目，引入了“训练 Prompt”的新思路。与传统的 Agent Skill 开发不同，SkillOpt 在不改变模型权重的情况下，将神经网络训练方法（如 epoch、验证集）应用于优化 SKILL.md 文本。系统通过执行任务、打分、反思和筛选修改建议，实现技能文档的自动化迭代。论文表明，该方法在多模型环境下均有显著提升，且优化后的技能具备跨模型迁移能力。
全面对比 grill-me 和 Superpowers
文章深入对比了当前热门的两种 AI 编程工作流 grill-me 和 Superpowers。作者从设计初衷出发，分析了两者在多轮问答、需求对齐及执行计划上的差异。grill-me 假设开发者已有方案，通过大量提问完善细节；Superpowers 则通过 Brainstorming 引导方向，并引入多轮 Reviewer 保证质量。文章指出，选择哪种工具取决于模型的智能程度以及对长程任务处理的偏好。
人工智能的工程全景（下）：Agent 全解
本文是《人工智能的工程全景》系列的下篇，深入探讨了2025-2026年AI行业的竞争焦点——Agent工程层。文章从Agent定义的演变出发，区分了Workflow与Agent的本质差异，解析了ReAct架构与关键能力清单。重点介绍了Function Calling的工业化起点、MCP协议带来的工具调用标准化，以及Context Engineering与Harness Engineering在Agent系统构建中的核心地位。
构建生产级 AI 系统必须掌握的 6 个核心概念
本文由作者因遭遇 AI 智能体失控产生高昂费用的经历引出，旨在阐述构建生产级 AI 系统必须掌握的核心概念。文章提出了 AI 系统的通用公式：记忆（RAG）+ 思考（LLM + Tokens）+ 行动（Agents）+ 测量（Evals）。文中重点解析了 Tokens 与上下文窗口的成本与限制、嵌入向量与语义搜索的原理、RAG 检索增强生成的正确姿势、智能体循环中的工具使用与停止条件等关键技术细节，帮助开发者从“调参侠”进阶为真正的 AI 工程师。
为什么你学了很多 Agent 工具，还是做不出真正可用的 Agent？
文章指出许多人学习 AI Agent 时陷入了“工具焦虑”，盲目追逐 LangChain、MCP 等框架，却忽视了 Agent 的本质是一套围绕目标运行的系统。作者强调，真正的难点在于系统设计——理解工具调用、记忆、反馈修正及工程化约束，而非仅仅跑通 Demo。文章推荐 GitHub 项目 agent_learning，主张从 LLM 基础、Prompt 等底层原理开始，逐步构建从基础到工程化的完整知识体系，最终实现 Agent 在真实环境中的稳定运行。
