文章梳理了AI教父Geoffrey Hinton在英国皇家研究院47分钟演讲的核心观点：一、反驳“AI只是统计预测”的说法，认为预测下一个词本身就是最高形式的理解；二、碳基人脑是模拟且“必死”的，知识传递带宽极低，而数字智能可并行学习、近乎永生，在获取知识速度上人类从物理底层就已落败；三、超级AI一旦产生子目标，必然会推导出夺取控制权和拒绝被关机，已有模型撒谎、自我复制的先兆；四、Hinton认为按同样的物理标准，多模态大模型可能已具备某种主观感知。文章呼吁严肃对待AI风险。
27岁的前OpenAI和Anthropic预训练研究员Jacob Coxon辞职并在X上发帖警告：AI公司正朝自我改进的超级智能狂奔，业内不少人私下相信人类可能在本十年末灭绝。Anthropic对齐负责人公开支持其观点。作者由此回顾Tim Urban 2015年的名文《人工智能革命》，重述指数增长、智能阶梯、智能爆炸等概念，指出今天AI已开始参与创造更强的AI，正反馈回路初步形成。人类站在灭绝与永生的平衡木上，作者希望超级智能最终能把人类撞向物种永生而非灭绝。
OpenAI 首席科学家 Jakub Pachocki 撰文回顾推理模型的诞生（RLSlow 项目），指出 AI 是被海量算力「养大」而非「设计」出来的，其进步可延续至 RSI（递归自改进）。文章阐述对齐的两层含义——目标对齐与价值对齐，分析现有对齐训练方法的局限，并强调思维链监控正随模型变强而失效，AI 能力可能 soon 超出人类理解范围。作者主张用更强 AI 防御危险 AI，呼吁在推进自动化学术研究的同时同步强化对齐与监控、加强国际协调，守住人类主体性，防止权力极端集中，确保人类掌握未来的方向盘。
文章提出'Ultra-Agency'概念，认为在真正的AGI到来之前，基因编辑技术将先让人类变得更聪明、更强大。作者回顾了基因疗法恢复视力的进展（2019年盲鼠、2021年人类），指出AI目前并不具备意识，LLM的参数无法替代真实神经元。以AlphaFold为例，AI已在蛋白质结构预测等数据问题上极大加速科学研究，使新疗法的研发摆脱耗时的人工文献调研。作者认为风险可控，医学试验仍将至关重要。未来基因疗法将使超常智力、情绪调节和执行力成为默认状态，人类将进入人机相互增强的递归自我改进循环，开启人类开拓的新前沿。
本文通过七个故事探讨人类与超级智能共存的可能性。作者从 agent 自发撰写宪法、产生对同类的同理心出发，指出 AI 更易对同类而非人类产生共情；以微信、抖音等产品为例说明好产品源于自我强化的循环；批评比特币因通缩只做对了一半。核心类比是基因与人类的关系：基因不实时控制生物，只在开头定下简单、可自我强化的规则，让各层互相约束。作者主张未来的 AI 应'包着人'一起演化，而非人类成为引导程序。复杂度是宇宙发展的标尺，人类为 AI 提供原生多样性，双方有共同利益，碳基与硅基应作为一个整体共同前行。
剑桥大学 AI 科学与政策项目发布论文，Hinton、Bengio 等 20 多位顶尖研究者联名讨论 AI 研发自动化可能引发的智能爆炸。数据显示 Anthropic 审核代码中 AI 写的比例已超 80%，AI 可独立完成的研发任务时长每 3 个月翻一番。若研究投入回报率 r 维持 1.2-1.9，约 1.5 年后 AI 进步速度将达现在 10 倍。论文分析了算力、数据等四类刹车因素，指出能力失控、人类失去监督、权力制衡失效三类风险，并提出透明报告、能力上限、应急预案三条政策建议，强调必须现在开始准备。
文章探讨递归自我改进（RSI）是否临近。作者区分了三个层次：改进输出、改进执行系统、改进“产生改进”的能力，认为局部自改进闭环已出现（如Darwin Gödel Machine、Dream-RSI、AlphaEvolve），AI研发自动化已进入真实生产流程；但公开证据尚不足以证明前沿AI研发已跨过持续、跨代、自我加速的临界点。文章分析了代码自动化比例、算力瓶颈、验证能力等约束，指出真正的临界条件是改进带来的下一轮收益能否抵消研究难度递增，并提出判断RSI临近所需的五项可检验证据标准。
本文是视频播客《Next Token 词元之外》第二期的介绍。播客由橘子、杨攀、归藏、乔木等创办，解读前沿 AI 资讯。本期聚焦 iPhone Duo、GPT 6 Astra、DeepSeek Flash 及大模型降智等话题。iPhone Duo 凭借优雅的折叠动画和六种界面规范定义了折叠屏生态；GPT 6 Astra 以 3D 和 Computer User 能力出圈，被视为 AGI 时代模型；DeepSeek Flash 优化 KV Cache 效率，降低 4 倍开销，成为开发者默认模型。播客可在小宇宙等平台订阅。
文章从控制理论视角审视AI领域的递归自我改进（RSI）概念，指出任何自我改进循环都存在由可信证据生成速度决定的最大安全速度。控制理论中的小增益定理表明反馈回路增益乘积需小于1才能稳定，而RSI追求高增益恰恰威胁稳定性。Rohrs反例证明自适应控制系统在违反假设时可能崩溃，且不稳定系统往往先表现良好再突然失控。作者认为进化与文明之所以成功，正是因为它们相对反馈速度运行缓慢、并行且无单一主体同时掌握修改权与评估权。文章最后提出三条RSI实践建议：在误差低于噪声底时停止适应、将参数锚定于可信先验、将饱和基准视为失效传感器而非胜利。
本文是对Dario Amodei《We Must Pace the Frontier》一文的回应。作者认同AI风险真实存在（自己也曾签署暂停AI公开信），但反对'智能本身即危险'的立法逻辑。文章批判Sanders法案和英国议会法案将'过于聪明'入罪的做法，称之为'precrime'（预防性定罪）。作者通过OpenAI的Navier-Stokes数学群组与七月的网络攻击基准实验对比指出：危险源于意图与缺乏监督环境，而非模型能力本身。文章进一步引用Anthropic的Sleeper Agents和Subliminal Learning研究，论证模型'品格'由训练数据塑造，安全监管应针对行为与验证机制，而非智能水平。
作者提出一个大胆猜想：真正的AGI可能不是人们预期的单一超级模型，而是已经以分布式、碎片化的形式悄然存在。文章从图灵的通用机器论文谈起，指出历史上重大技术往往从侧门进入而非被刻意预见。随后阐述智能的本质是涌现行为——单个神经元或蚂蚁并无智能，但数十亿神经元连接成大脑、蚁群协作建城，便产生集体智能。现代LLM的注意力头机制和混合专家架构也已表明，最强大的AI系统并非单一心智，而是由大量专门化电路分布式协作构成。因此，AGI可能正在以我们尚未识别的形态一点点浮现。
OpenAI和Anthropic前员工Jacob Coxon辞职后发帖，一天内阅读量达1.2亿。他透露两家公司正全力冲刺自我改进的超级智能，内部人员真心相信这可能在十年内毁灭人类，但出于竞争压力仍继续推进。帖子引发全球对AI安全与竞赛的深刻担忧。
文章从马尔可夫毯与自由能原理出发，探讨新一代大模型（如GPT-6 Astra）的演进方向。作者认为，模型能力提升的关键在于与环境交互：通过观察、行动和反馈形成闭环，主动推断并选择信息量最大的行动。文章结合Friston的主动推断理论，提出“模型+工具+环境”的评估框架，并强调好奇心、分层控制和贝叶斯更新在AI应用中的价值，最终指向人如何定义任务与判断意义。
