Wiki 知识库

全部文档 / 标签: 稳定性

2 篇
清除

智能有速度上限:从控制理论看递归自我改进

文章从控制理论视角审视AI领域的递归自我改进(RSI)概念,指出任何自我改进循环都存在由可信证据生成速度决定的最大安全速度。控制理论中的小增益定理表明反馈回路增益乘积需小于1才能稳定,而RSI追求高增益恰恰威胁稳定性。Rohrs反例证明自适应控制系统在违反假设时可能崩溃,且不稳定系统往往先表现良好再突然失控。作者认为进化与文明之所以成功,正是因为它们相对反馈速度运行缓慢、并行且无单一主体同时掌握修改权与评估权。文章最后提出三条RSI实践建议:在误差低于噪声底时停止适应、将参数锚定于可信先验、将饱和基准视为失效传感器而非胜利。

技术 › LLM Peyman Milanfar 2026-09-134.3 KB 445.6K 939 77

为什么托管式智能体会成为智能体构建的下一个重要方向

本文探讨了智能体(Agent)从开发到生产环境所面临的挑战,指出托管式智能体服务将成为下一个重要方向。文章回顾了智能体发展的三个阶段,分析了生产环境中的稳定性、安全、身份验证等问题,并介绍了LangChain推出的Managed Deep Agents如何通过提供运行壳和生产设施来解决这些问题。文章还讨论了AGENTS.md、MCP和Skills等标准的重要性,并给出了适用场景和建议。

技术 › Agent 左海有个洲 2026-08-158.2 KB 566 3 70