Wiki 知识库

全部文档 / 作者: Emad

2 篇
清除

Intelligence isn't a crime

本文是对Dario Amodei《We Must Pace the Frontier》一文的回应。作者认同AI风险真实存在(自己也曾签署暂停AI公开信),但反对'智能本身即危险'的立法逻辑。文章批判Sanders法案和英国议会法案将'过于聪明'入罪的做法,称之为'precrime'(预防性定罪)。作者通过OpenAI的Navier-Stokes数学群组与七月的网络攻击基准实验对比指出:危险源于意图与缺乏监督环境,而非模型能力本身。文章进一步引用Anthropic的Sleeper Agents和Subliminal Learning研究,论证模型'品格'由训练数据塑造,安全监管应针对行为与验证机制,而非智能水平。

技术 › LLM Emad 2026-09-1337.7 KB 195.3K 448 74

Let a billion mathematicians bloom

文章回应25位菲尔兹奖得主关于AI将损害数学的宣言。作者以AlphaGo‘第37手’为例:AI出现后职业围棋水平不降反升,因为开源引擎让每位棋手拥有超人类导师。作者认为菲尔兹奖得主担心的核心问题真实存在——AI正在把解题的成果与过程分离,但他们忽略了更深层的变化:验证成本的历史性反转。过去猜测便宜而验证昂贵,如今借助Lean等证明助手和形式化证书,验证变得廉价可复制。数学的制度体系(同行评审、长学徒制)都是围绕验证稀缺建立的。AI不会摧毁数学,反而会让数百万人得以参与,让‘十亿数学家’绽放。

技术 › LLM Emad 2026-09-1227.3 KB 69K 477 71