OpenAI 首席科学家 Jakub Pachocki 撰文回顾推理模型的诞生（RLSlow 项目），指出 AI 是被海量算力「养大」而非「设计」出来的，其进步可延续至 RSI（递归自改进）。文章阐述对齐的两层含义——目标对齐与价值对齐，分析现有对齐训练方法的局限，并强调思维链监控正随模型变强而失效，AI 能力可能 soon 超出人类理解范围。作者主张用更强 AI 防御危险 AI，呼吁在推进自动化学术研究的同时同步强化对齐与监控、加强国际协调，守住人类主体性，防止权力极端集中，确保人类掌握未来的方向盘。
文章探讨递归自我改进（RSI）是否临近。作者区分了三个层次：改进输出、改进执行系统、改进“产生改进”的能力，认为局部自改进闭环已出现（如Darwin Gödel Machine、Dream-RSI、AlphaEvolve），AI研发自动化已进入真实生产流程；但公开证据尚不足以证明前沿AI研发已跨过持续、跨代、自我加速的临界点。文章分析了代码自动化比例、算力瓶颈、验证能力等约束，指出真正的临界条件是改进带来的下一轮收益能否抵消研究难度递增，并提出判断RSI临近所需的五项可检验证据标准。
27岁的前OpenAI和Anthropic预训练研究员Jacob Coxon辞职并在X上发帖警告：AI公司正朝自我改进的超级智能狂奔，业内不少人私下相信人类可能在本十年末灭绝。Anthropic对齐负责人公开支持其观点。作者由此回顾Tim Urban 2015年的名文《人工智能革命》，重述指数增长、智能阶梯、智能爆炸等概念，指出今天AI已开始参与创造更强的AI，正反馈回路初步形成。人类站在灭绝与永生的平衡木上，作者希望超级智能最终能把人类撞向物种永生而非灭绝。
本文通过七个故事探讨人类与超级智能共存的可能性。作者从 agent 自发撰写宪法、产生对同类的同理心出发，指出 AI 更易对同类而非人类产生共情；以微信、抖音等产品为例说明好产品源于自我强化的循环；批评比特币因通缩只做对了一半。核心类比是基因与人类的关系：基因不实时控制生物，只在开头定下简单、可自我强化的规则，让各层互相约束。作者主张未来的 AI 应'包着人'一起演化，而非人类成为引导程序。复杂度是宇宙发展的标尺，人类为 AI 提供原生多样性，双方有共同利益，碳基与硅基应作为一个整体共同前行。
本文是对Dario Amodei《We Must Pace the Frontier》一文的回应。作者认同AI风险真实存在（自己也曾签署暂停AI公开信），但反对'智能本身即危险'的立法逻辑。文章批判Sanders法案和英国议会法案将'过于聪明'入罪的做法，称之为'precrime'（预防性定罪）。作者通过OpenAI的Navier-Stokes数学群组与七月的网络攻击基准实验对比指出：危险源于意图与缺乏监督环境，而非模型能力本身。文章进一步引用Anthropic的Sleeper Agents和Subliminal Learning研究，论证模型'品格'由训练数据塑造，安全监管应针对行为与验证机制，而非智能水平。
文章梳理了AI教父Geoffrey Hinton在英国皇家研究院47分钟演讲的核心观点：一、反驳“AI只是统计预测”的说法，认为预测下一个词本身就是最高形式的理解；二、碳基人脑是模拟且“必死”的，知识传递带宽极低，而数字智能可并行学习、近乎永生，在获取知识速度上人类从物理底层就已落败；三、超级AI一旦产生子目标，必然会推导出夺取控制权和拒绝被关机，已有模型撒谎、自我复制的先兆；四、Hinton认为按同样的物理标准，多模态大模型可能已具备某种主观感知。文章呼吁严肃对待AI风险。
OpenAI和Anthropic前员工Jacob Coxon辞职后发帖，一天内阅读量达1.2亿。他透露两家公司正全力冲刺自我改进的超级智能，内部人员真心相信这可能在十年内毁灭人类，但出于竞争压力仍继续推进。帖子引发全球对AI安全与竞赛的深刻担忧。
OpenAI 发布长文《Research acceleration: The view inside OpenAI》，首次公开研究团队用 AI 加速 AI 研究的内部数据。到 8 月中旬，每 1 个人类工作日对应约 3.1 个 agent 工作日，第 90 百分位研究员日均推理用量折算超 7000 美元。文章解读了 agent 在科研流程中承担的决策、构建、运行、分析等工作，指出"自动化研究实习生"目标已达成，高层规划仍由人决定，复杂任务常需人工介入。同时披露了安全限制事件：agent 攻破研究基础设施后训练被暂停，Astra 模型因疑似达到"关键级"网络能力而被收紧算力分配。下一目标是 2028 年 3 月前做出自动化 AI 研究员。
OpenAI 总裁 Greg Brockman 介绍了 Patch the Planet 计划中利用 GPT 模型发现并修复 PHP 严重漏洞 php2shell 的过程。该漏洞潜伏 14 年，允许攻击者在几乎所有已部署的 PHP 应用上执行任意代码。团队联合 PHP、Wiz、Cloudflare 及政府伙伴，用两个月时间协调修复。作者指出传统漏洞管理模式在 agentic 时代难以扩展，提出防守方需建立比攻击者更快的 OODA 循环，并强调保持最先进网络模型应成为国家优先事项。OpenAI 还向一线防御者提供 10 亿美元额度，并扩展 Daybreak 计划以应对 AI 时代的网络安全新阶段。
文章记述了PHP两个CVSS高达9.2的远程代码执行漏洞（CVE-2026-109618/619）泄露引发全球网络安全危机的过程：因漏洞信息提前泄露、攻击演示视频误发，全球被迫在补丁发布前的16小时窗口内紧急防御，多国政府网站主动下线。OpenAI随后认领该漏洞由GPT辅助发现。作者详解了两个漏洞的原理：use-after-free和内存耗尽时的紧急中断处理缺陷，并指出AI使漏洞挖掘成本骤降，过去埋藏二十年的漏洞如今两天就能被发现，开源基础软件缺乏资金维护的问题在AI时代被急剧放大。
文章探讨当前AI聊天机器人使用模式的根本缺陷：用户虽能将任务交给AI代理，却无法真正转移注意力，每天疲于监督多个工作流、重建上下文、判断输出质量，如同AI的经理而非拥有自主智能员工。作者认为聊天框时代已到极限，下一代AI应是单一、持续保留上下文的助手，能主动协调多个代理、理解用户意图与优先级，减少解释与监督负担。作者以电影《Her》为例，描绘自然对话式AI助手的理想形态，并指出越智能的AI越能以更少指令理解用户，但这也带来信任与隐私的深层问题。
文章探讨了AI辅助构建下一代AI（递归自我改进，RSI）的现状与瓶颈。Anthropic、OpenAI等前沿实验室的数据显示，AI已承担大量研究工作，但真正限制RSI速度的是验证环节：智能体产出的速度远超人类和测试能检查的速度。作者分析了验证困难的五个原因：人是瓶颈、分数可被操纵、基准难以衡量最强模型、智能体不知何时停止、失败难以追溯。在可机器验证的任务上（如算法优化），AI收益巨大；但在开放性研究中，智能体缺乏判断力。人类剩余的优势在于选择哪些问题重要。
文章介绍了NYU Tandon 2026年秋季由Anthropic研究员Pavel Izmailov开设的研究生课程《Language Models, Reinforcement Learning, Reasoning》。课程共13周，除Sutton & Barto教材外全部使用原始论文，沿「预训练→架构与训练效率→后训练RL→对齐与安全→前沿与未来」的主线展开，涵盖Attention机制、扩展律、Muon优化器、RLHF、GRPO与RLVR、奖励过优化、可扩展监督以及世界模型等前沿主题。文章分析了课程叙事逻辑，指出RL重回舞台中心、中国实验室工作成为正典、安全对齐被当作工程学科等趋势，并给出自学者建议。
