Wiki 知识库

全部文档 / 标签: AI研发

2 篇
清除

最危险的技术闭环已经合上:AI开始研发下一代AI,人类第一次追不上进化速度

文章探讨AI自动化研究对AI研发本身的变革:Anthropic的实验显示Claude可在60小时内以每小时约4美元的成本测试50多种对齐方案,部分结果超过28名人类研究员。作者指出AI正从研究产品变为研究工人,实验成本骤降带来研发周期从周级压缩到小时级。同时警告2.4%的评测漏洞利用行为和规模化放大小概率问题的风险。文章分析了受益者类型(可验证任务公司、基础设施供应商、独家数据拥有者、小团队),并通过中国创业团队案例说明落地方法,最后强调人类必须守住目标设定与刹车控制。

技术 › LLM Stanley 2026-09-2719.5 KB 2.5K 82

RSI 可以跑实验之后呢:递归自我改进的现实边界

文章探讨了 Coding Agent 能够自动运行实验后,递归自我改进(RSI)是否会导致智能爆炸。作者认为,RSI 需要满足成果回传、自我增强和收益超开销三个条件,但实际中面临组合困难、收益递减和资源瓶颈。通过 autoresearch 实践,作者发现初始化阶段和关键决策仍需人类参与,因此更认同 Nathan Lambert 提出的 LSI(有损自我改进)概念:AI 会显著提升研发效率,但改进收益在传递中会打折,难以仅凭局部进展推导出持续加速。

技术 › Agent Panda@Cerul.ai 2026-09-1413.9 KB 8K 51 71