全部文档 / 作者: Cloris / 标签: RSI

2 篇

生成越来越便宜，验证越来越贵 | 峰会洞察 01

作者记录硅谷101 Alignment 2026 年度峰会 Day 1 三场分享的核心洞察：模型竞赛、新型AI研究实验室与AI for Science。贯穿全场的主题是'生成越来越便宜，验证越来越贵'。开源vs闭源之争本质是利润表问题，价值向model-agnostic应用层转移；数学因可验证、可数字化、数据充足成为AI攻克焦点，验证成本趋近于零是北极星；AI for Science最大瓶颈是湿实验验证周转时间。作者从投资视角提出：拆解AI应用公司COGS、关注闭源转开源迁移路线图、可验证代码生成是下一个基础设施层。

技术 › LLM

Cloris 2026-10-1224.0 KB 18.1K 40 87

AI峰会开源模型闭源模型验证成本 AI for Science 数学证明 RSI 投资框架模型竞赛可验证代码

一文读懂 RSI：AI 能自己变得越来越聪明吗？

文章系统科普了递归式自我改进（RSI）的概念：会反思、改答案或保存记忆并不等于真正的自我进化。真正的 RSI 要求改动深入权重、工具或研发流程，且升级后的系统能更有效地进行下一轮升级。文章梳理了从输出级、学习级、工作流级到研发级的技术进展（Self-Refine、STaR、DGM、AlphaEvolve 等），解释了完整 RSI 尚未出现的原因：评估困难、奖励投机、边际收益递减与减速机制。最后给出安全治理框架和判断 RSI 声明真伪的八问验货清单。

技术 › LLM

Cloris 2026-09-2217.7 KB 64.2K 101 85

RSI 自我改进 AI安全 Evaluation 智能爆炸 LLM Agent 奖励投机科普递归自我改进