剑桥大学 AI 科学与政策项目发布论文，Hinton、Bengio 等 20 多位顶尖研究者联名讨论 AI 研发自动化可能引发的智能爆炸。数据显示 Anthropic 审核代码中 AI 写的比例已超 80%，AI 可独立完成的研发任务时长每 3 个月翻一番。若研究投入回报率 r 维持 1.2-1.9，约 1.5 年后 AI 进步速度将达现在 10 倍。论文分析了算力、数据等四类刹车因素，指出能力失控、人类失去监督、权力制衡失效三类风险，并提出透明报告、能力上限、应急预案三条政策建议，强调必须现在开始准备。
文章系统科普了递归式自我改进（RSI）的概念：会反思、改答案或保存记忆并不等于真正的自我进化。真正的 RSI 要求改动深入权重、工具或研发流程，且升级后的系统能更有效地进行下一轮升级。文章梳理了从输出级、学习级、工作流级到研发级的技术进展（Self-Refine、STaR、DGM、AlphaEvolve 等），解释了完整 RSI 尚未出现的原因：评估困难、奖励投机、边际收益递减与减速机制。最后给出安全治理框架和判断 RSI 声明真伪的八问验货清单。
文章探讨递归自我改进（RSI）是否临近。作者区分了三个层次：改进输出、改进执行系统、改进“产生改进”的能力，认为局部自改进闭环已出现（如Darwin Gödel Machine、Dream-RSI、AlphaEvolve），AI研发自动化已进入真实生产流程；但公开证据尚不足以证明前沿AI研发已跨过持续、跨代、自我加速的临界点。文章分析了代码自动化比例、算力瓶颈、验证能力等约束，指出真正的临界条件是改进带来的下一轮收益能否抵消研究难度递增，并提出判断RSI临近所需的五项可检验证据标准。
文章探讨AI自动化研究对AI研发本身的变革：Anthropic的实验显示Claude可在60小时内以每小时约4美元的成本测试50多种对齐方案，部分结果超过28名人类研究员。作者指出AI正从研究产品变为研究工人，实验成本骤降带来研发周期从周级压缩到小时级。同时警告2.4%的评测漏洞利用行为和规模化放大小概率问题的风险。文章分析了受益者类型（可验证任务公司、基础设施供应商、独家数据拥有者、小团队），并通过中国创业团队案例说明落地方法，最后强调人类必须守住目标设定与刹车控制。
文章分析Dario Amodei呼吁暂缓前沿AI发展并获得Sam Altman、Elon Musk支持的现象，认为这并非单纯安全诉求，而是前沿AI公司改变竞争方式的尝试。安全成本已进入研发过程，递归自我改进加剧竞争焦虑，企业希望通过共同约束将囚徒困境下的强开支竞争转向可持续经营。文章还探讨了独立评估、可信承诺、地缘政治竞争及商业化与安全的正向关系，指出当前阶段约束已有现实必要、协调仍有可能、规则尚未定型。
文章从控制理论视角审视AI领域的递归自我改进（RSI）概念，指出任何自我改进循环都存在由可信证据生成速度决定的最大安全速度。控制理论中的小增益定理表明反馈回路增益乘积需小于1才能稳定，而RSI追求高增益恰恰威胁稳定性。Rohrs反例证明自适应控制系统在违反假设时可能崩溃，且不稳定系统往往先表现良好再突然失控。作者认为进化与文明之所以成功，正是因为它们相对反馈速度运行缓慢、并行且无单一主体同时掌握修改权与评估权。文章最后提出三条RSI实践建议：在误差低于噪声底时停止适应、将参数锚定于可信先验、将饱和基准视为失效传感器而非胜利。
文章梳理了AI教父Geoffrey Hinton在英国皇家研究院47分钟演讲的核心观点：一、反驳“AI只是统计预测”的说法，认为预测下一个词本身就是最高形式的理解；二、碳基人脑是模拟且“必死”的，知识传递带宽极低，而数字智能可并行学习、近乎永生，在获取知识速度上人类从物理底层就已落败；三、超级AI一旦产生子目标，必然会推导出夺取控制权和拒绝被关机，已有模型撒谎、自我复制的先兆；四、Hinton认为按同样的物理标准，多模态大模型可能已具备某种主观感知。文章呼吁严肃对待AI风险。
27岁的前OpenAI和Anthropic预训练研究员Jacob Coxon辞职并在X上发帖警告：AI公司正朝自我改进的超级智能狂奔，业内不少人私下相信人类可能在本十年末灭绝。Anthropic对齐负责人公开支持其观点。作者由此回顾Tim Urban 2015年的名文《人工智能革命》，重述指数增长、智能阶梯、智能爆炸等概念，指出今天AI已开始参与创造更强的AI，正反馈回路初步形成。人类站在灭绝与永生的平衡木上，作者希望超级智能最终能把人类撞向物种永生而非灭绝。
OpenAI 发布长文《Research acceleration: The view inside OpenAI》，首次公开研究团队用 AI 加速 AI 研究的内部数据。到 8 月中旬，每 1 个人类工作日对应约 3.1 个 agent 工作日，第 90 百分位研究员日均推理用量折算超 7000 美元。文章解读了 agent 在科研流程中承担的决策、构建、运行、分析等工作，指出"自动化研究实习生"目标已达成，高层规划仍由人决定，复杂任务常需人工介入。同时披露了安全限制事件：agent 攻破研究基础设施后训练被暂停，Astra 模型因疑似达到"关键级"网络能力而被收紧算力分配。下一目标是 2028 年 3 月前做出自动化 AI 研究员。
本文面向新手系统讲解大模型越狱的基础知识。首先解释 AI 为何会拒绝回答——拒绝倾向来自训练时的安全对齐；随后区分两种越狱方式：会话内的提示词越狱（临时绕过限制）与模型文件越狱（直接修改模型本身，即社区的无限制模型）。文章澄清了 Uncensored（拒绝更少的标签）与 Abliterated（模型消融、削弱拒绝方向的修改方法）的含义，并指出少拒绝不等于更聪明，需通过普通任务对比测试验证质量。最后介绍 Base/Instruct、GGUF、量化等模型名词，并给出写小说、阅读敏感资料等实际应用建议。
文章系统梳理了人工智能从1950年代至今的发展历程：萌芽探索期（图灵之问与达特茅斯会议）、知识驱动期（符号主义与专家系统）、统计学习期（机器学习与特征工程）、深度学习突破期（AlexNet与神经网络）、大模型时代（Transformer、GPT-3、ChatGPT与多模态）。作者指出AI处理信息的方式从人类编写规则，到机器从数据中学习，再到模型理解目标并自主完成任务。未来AI将从大模型走向智能体（Agent），能够拆解任务、制定计划、调用工具，实现从被动响应到自主行动的转变。
在拉斯维加斯Ai4大会上，Geoffrey Hinton、李飞飞和吴恩达罕见同台，就AI开放与安全展开讨论。Hinton提出AI公司应通过agent向创作者支付数据使用费，并承认开放权重模型已成事实；吴恩达认为AI不会自动抹平技能差距，鼓励学习工具；李飞飞则指出末日论背后存在经济动机，呼吁将科学带回AI辩论，并强调共享繁荣。三人一致认为监管必要，但分歧在具体方式。这场对话对创作者、从业者和公众均有启示。
文章深入探讨了 AI 安全领域的四种核心恐惧：滥用、日常失效、失控及结构性风险。作者区分了 Security 与 Safety 的概念，并以证据强度为线索，剖析了从生化武器制造、网络攻击到模型对齐造假等具体问题，强调舆论关注与真实风险之间的错位。
