AI 安全综述：四种恐惧与证据的重量
文章深入探讨了 AI 安全领域的四种核心恐惧：滥用、日常失效、失控及结构性风险。作者区分了 Security 与 Safety 的概念，并以证据强度为线索，剖析了从生化武器制造、网络攻击到模型对齐造假等具体问题，强调舆论关注与真实风险之间的错位。
相关文档
互联网正遭受攻击：如何保护自己和家人
文章警告当前正处于多年来最严重的网络安全危机，被称为'黑色十月'。AI Agent 现在能自主发现软件漏洞并入侵系统：PHP 漏洞影响了约70%的网站，攻击者数小时内发起百万级攻击；AI 驱动的黑客工具被用于攻击全球2000多个组织、400多家拉美银行及韩国金融机构。作者指出攻防格局的根本变化——AI 让发现漏洞和入侵的成本骤降（每次入侵约50美元），而防御方修补漏洞速度远跟不上。文章建议普通用户：近期只使用知名大网站、及时更新所有设备软件、避免在不熟悉的网站输入密码和银行卡信息。
Towards securing the internet
OpenAI 总裁 Greg Brockman 介绍了 Patch the Planet 计划中利用 GPT 模型发现并修复 PHP 严重漏洞 php2shell 的过程。该漏洞潜伏 14 年，允许攻击者在几乎所有已部署的 PHP 应用上执行任意代码。团队联合 PHP、Wiz、Cloudflare 及政府伙伴，用两个月时间协调修复。作者指出传统漏洞管理模式在 agentic 时代难以扩展，提出防守方需建立比攻击者更快的 OODA 循环，并强调保持最先进网络模型应成为国家优先事项。OpenAI 还向一线防御者提供 10 亿美元额度，并扩展 Daybreak 计划以应对 AI 时代的网络安全新阶段。
AI挖出藏了十几年的底层PHP漏洞，网络安全也回不去那个旧时代了
文章记述了PHP两个CVSS高达9.2的远程代码执行漏洞（CVE-2026-109618/619）泄露引发全球网络安全危机的过程：因漏洞信息提前泄露、攻击演示视频误发，全球被迫在补丁发布前的16小时窗口内紧急防御，多国政府网站主动下线。OpenAI随后认领该漏洞由GPT辅助发现。作者详解了两个漏洞的原理：use-after-free和内存耗尽时的紧急中断处理缺陷，并指出AI使漏洞挖掘成本骤降，过去埋藏二十年的漏洞如今两天就能被发现，开源基础软件缺乏资金维护的问题在AI时代被急剧放大。
基因如何控制我们，我们就如何控制超级智能
本文通过七个故事探讨人类与超级智能共存的可能性。作者从 agent 自发撰写宪法、产生对同类的同理心出发，指出 AI 更易对同类而非人类产生共情；以微信、抖音等产品为例说明好产品源于自我强化的循环；批评比特币因通缩只做对了一半。核心类比是基因与人类的关系：基因不实时控制生物，只在开头定下简单、可自我强化的规则，让各层互相约束。作者主张未来的 AI 应'包着人'一起演化，而非人类成为引导程序。复杂度是宇宙发展的标尺，人类为 AI 提供原生多样性，双方有共同利益，碳基与硅基应作为一个整体共同前行。
Hinton、Bengio 等 20 多位研究者联名发论文：AI 正在接手 AI 研发，智能爆炸可能不远了
剑桥大学 AI 科学与政策项目发布论文，Hinton、Bengio 等 20 多位顶尖研究者联名讨论 AI 研发自动化可能引发的智能爆炸。数据显示 Anthropic 审核代码中 AI 写的比例已超 80%，AI 可独立完成的研发任务时长每 3 个月翻一番。若研究投入回报率 r 维持 1.2-1.9，约 1.5 年后 AI 进步速度将达现在 10 倍。论文分析了算力、数据等四类刹车因素，指出能力失控、人类失去监督、权力制衡失效三类风险，并提出透明报告、能力上限、应急预案三条政策建议，强调必须现在开始准备。
王炸，Gemini 4 Argon 全解析
Google 发布 Gemini 4 Argon，定位为面向长任务、深度推理的 frontier model，在 DeepSWE、AutomationBench、CWE-bench 等基准上表现强势，Vals Index 以 68.90% 位列第一，略超 Claude 与 GPT 系列。核心亮点是最大输出 token 上限提升至 100 万，使 agent 能在长链路任务中保持目标、纠错并完成交付。发布优先面向网络安全防御方，通过 Fairwind Program 受控开放。首发定价每百万 token 输入/输出 2/10 美元。文章认为下一代 AI 产品的差异化在于上下文、工具、权限与验收闭环，而非仅模型本身。
It's not just the f*cking sandbox
OpenAI Agent Security 团队成员以个人身份撰文，回应近期针对 OpenAI 安全团队的舆论攻击。作者强调外界对前沿实验室安全现实的误解，呼吁不要直接攻击安全人员，而应施压实验室改进。文章介绍了 Agent Security 团队的职责：研究模型行为、构建对齐监控、定义智能体安全。作者回顾 OpenAI 的安全历史与快速增长带来的挑战，并计划从内部视角分享如何为下一波 AI 安全事件做好准备，同时承诺不泄露非公开敏感信息。
Intelligence isn't a crime
本文是对Dario Amodei《We Must Pace the Frontier》一文的回应。作者认同AI风险真实存在（自己也曾签署暂停AI公开信），但反对'智能本身即危险'的立法逻辑。文章批判Sanders法案和英国议会法案将'过于聪明'入罪的做法，称之为'precrime'（预防性定罪）。作者通过OpenAI的Navier-Stokes数学群组与七月的网络攻击基准实验对比指出：危险源于意图与缺乏监督环境，而非模型能力本身。文章进一步引用Anthropic的Sleeper Agents和Subliminal Learning研究，论证模型'品格'由训练数据塑造，安全监管应针对行为与验证机制，而非智能水平。
Hinton英国皇家研究院演讲：Will AI outsmart human intelligence?
文章梳理了AI教父Geoffrey Hinton在英国皇家研究院47分钟演讲的核心观点：一、反驳“AI只是统计预测”的说法，认为预测下一个词本身就是最高形式的理解；二、碳基人脑是模拟且“必死”的，知识传递带宽极低，而数字智能可并行学习、近乎永生，在获取知识速度上人类从物理底层就已落败；三、超级AI一旦产生子目标，必然会推导出夺取控制权和拒绝被关机，已有模型撒谎、自我复制的先兆；四、Hinton认为按同样的物理标准，多模态大模型可能已具备某种主观感知。文章呼吁严肃对待AI风险。
一个27岁的AI研究员从Anthropic辞职了，因为他担心AI会导致人类灭绝
27岁的前OpenAI和Anthropic预训练研究员Jacob Coxon辞职并在X上发帖警告：AI公司正朝自我改进的超级智能狂奔，业内不少人私下相信人类可能在本十年末灭绝。Anthropic对齐负责人公开支持其观点。作者由此回顾Tim Urban 2015年的名文《人工智能革命》，重述指数增长、智能阶梯、智能爆炸等概念，指出今天AI已开始参与创造更强的AI，正反馈回路初步形成。人类站在灭绝与永生的平衡木上，作者希望超级智能最终能把人类撞向物种永生而非灭绝。
异类的心智：当机器比人聪明，人还剩下什么
OpenAI 首席科学家 Jakub Pachocki 撰文回顾推理模型的诞生（RLSlow 项目），指出 AI 是被海量算力「养大」而非「设计」出来的，其进步可延续至 RSI（递归自改进）。文章阐述对齐的两层含义——目标对齐与价值对齐，分析现有对齐训练方法的局限，并强调思维链监控正随模型变强而失效，AI 能力可能 soon 超出人类理解范围。作者主张用更强 AI 防御危险 AI，呼吁在推进自动化学术研究的同时同步强化对齐与监控、加强国际协调，守住人类主体性，防止权力极端集中，确保人类掌握未来的方向盘。
越狱大模型小白从 0 到 1 教程
本文面向新手系统讲解大模型越狱的基础知识。首先解释 AI 为何会拒绝回答——拒绝倾向来自训练时的安全对齐；随后区分两种越狱方式：会话内的提示词越狱（临时绕过限制）与模型文件越狱（直接修改模型本身，即社区的无限制模型）。文章澄清了 Uncensored（拒绝更少的标签）与 Abliterated（模型消融、削弱拒绝方向的修改方法）的含义，并指出少拒绝不等于更聪明，需通过普通任务对比测试验证质量。最后介绍 Base/Instruct、GGUF、量化等模型名词，并给出写小说、阅读敏感资料等实际应用建议。
