The Goal of Science Is Not to Win
文章指出科学研究和人生的真正目标不是赢得最终分数，而是持续更新对现实的理解、降低世界的不确定性。作者批评当前AI研究过度依赖基准测试分数，导致reward hacking和过拟合，将科学过程变成锦标赛。借鉴灰盒模糊测试的思路，作者主张科研需要密集、廉价的认知进展信号来引导搜索方向，而非仅靠稀疏的最终验证。失败实验不是判决而是数据，反馈架构而非生成能力才是瓶颈。
全部文档 / 作者: Amber (Jiachen) Liu
2 篇
人类自我改进系统的第四次尝试：从生成到验证的演变
文章回顾了AI递归自我改进（RSI）的80年历史，将其划分为四次浪潮：随机突变（遭遇生成瓶颈）、数学证明（陷入验证瘫痪）、AutoML（过度拟合基准测试），以及当前大语言模型阶段。作者指出，随着LLM解决了代码生成的瓶颈，AI系统演进的核心挑战已剧烈转移至“验证”阶段。面对开放式任务，如何有效验证AI生成复杂系统的逻辑可靠性，成为了当前AI自我进化的真正天花板。