Epoch AI 2030年预测:AI 将最先替代可验证的脑力工作
Epoch AI 发布119页报告《What will AI look like in 2030?》,预测到2030年AI将最先大幅推进软件工程、数学、文献调研、数据分析等可验证的脑力工作,而非全自动实验室。报告指出,AI落地速度取决于任务是否数字化、结果可验证、失败可回滚等因素,并强调软件工程、数学和桌面研究将率先被AI改造。
Epoch AI 发布119页报告《What will AI look like in 2030?》,预测到2030年AI将最先大幅推进软件工程、数学、文献调研、数据分析等可验证的脑力工作,而非全自动实验室。报告指出,AI落地速度取决于任务是否数字化、结果可验证、失败可回滚等因素,并强调软件工程、数学和桌面研究将率先被AI改造。
文章对Epoch AI报告进行了结构化解读,提供了判断AI落地速度的框架,信息量适中,分析有深度,但新颖性一般,时效性高,可读性好。
Thorsten Ball 分享了 2026 年 10 月他与 AI Agent 协作的工作方法:使用最新最强的模型,不必担心代码库积累 slop;提示时描述 What 而非 How;让 agent 贯通整个软件开发生命周期(运行、部署、看日志、处理 bug 报告),并为其提供定制工具;通过盲测实验评估 agent 对代码库知识的利用;不要手动管理上下文,让 compaction 工作;请求不可反驳的证明(端到端演示、前后对比数据);拥抱异步工作流,给 agent 更大任务;利用定时唤醒等自动化功能;只审查高影响范围的代码。这些实践展示了 agent 驱动开发的新范式。
文章讨论软件工程师在AI时代面临的身份危机与新机遇。随着多智能体系统从简单的人机对话发展为数千个持久协作的智能体,解决重大研究、发现和硬件设计问题,一系列新的工程问题浮现:基础设施需要为突发性、有状态的单实例工作负载演进;智能体身份认证与授权(尤其是代表人类OBO场景和智能体互信)亟待解决;不可信代码与内容要求更强的安全隔离和沙箱机制;还需跨智能体的链路追踪与紧急停止工具。作者认为工程师应深入这些领域,解锁多智能体系统的潜力。
作者分享了在咨询项目中管理项目知识库的方法,旨在同时服务 AI 编码代理和工程师两类读者。核心设计是对一棵 Markdown 文件树执行五种操作:存储(将原始资料、事实和生成产物分目录管理)、创建(新资料经过切片、摘要、生成视图和规范的固定流水线)、更新(通过哈希检测变更,沿链接反向重建所有依赖产物)等。设计强调每个摘要、视图和规范都链接到其来源事实,配合两条质量护栏确保生成内容有据可依,使文档变更后系统能自动同步更新所有下游内容,为编码代理提供始终最新的详细规范。
文章提出从“智能体参与SDLC”到“软件工厂”之间存在关键差距,借鉴自动驾驶L0-L5分级框架,提出L4软件工程愿景:系统能在限定范围内自主完成授权的软件交付生命周期,包括验证、受控发布与安全回退,无需人工介入兜底。作者强调优先级应为系统>智能体>模型,团队需工程化地定义自主边界(仓库范围、权限、任务资格),以构建可验证、可自我修复的有界自主软件工厂,实现工程努力的复利效应。
作者继八月 AI Native 实践后,记录从 Stage 7 迈向 Stage 8 的多 Agent 工作方式探索。核心实践包括:用「测试测试」验证测试有效性(借鉴变异测试);要求 Agent 交代判断依据;采用 1+N 组织方式,由 Captain 统筹调度其他 Agent,并保护其上下文不陷入实现细节;用 logbook Kit(lbkit)串起需求到上线的完整交付流程,通过 Preflight 预演减少中途打断;让 Delivery 与 Verify 两种角色形成对抗,发现分歧。作者强调多 Agent 有成本需按任务规模挑选,目标是保护人的完整注意力与决策密度,认为对抗机制比单纯循环更重要。
文章探讨软件工程专业的教育困局:大学教育未能培养学生在团队中编写可维护软件的能力,课程项目与业界真实复杂度脱节。作者援引《软件困局》和《黑客与画家》,指出软件工程专业在高校鄙视链中处于劣势,计算机科学专业实际是数学家、博物学家与黑客的混杂体,而大学以论文数量为考核标准,倾向于培养近似数学家的学生,而非创造优美软件的黑客。作者强调黑客的工作是软件设计而非学术研究——设计不一定是新的但一定是好的,并以Dennis Ritchie、Linus Torvalds、陶建辉等人为例,批评当前教育缺乏整体性关联分析能力的培养。
Google DeepMind 9 月发布的论文《Agentic Economies for Autonomous Scientific Discovery》主张,AI 科研的真正瓶颈不在想法生成而在资源有限的验证,需设计市场与制度解决协作、信用分配、问责与安全问题。AI 裁判 Pith 批评其核心论点与自引证据相悖且缺乏实证。产业侧 Molecule 的 Onchain Lab 已按论文要求施工。实验证据双向:Economy of Minds 的拍卖机制大幅提升 agent 任务表现,而另一实验显示仅有经济角色不会产生交易,需可验证的工作与权利。结论:经济制度的威力来自可验证性,而非价格标签。
作者以程序员视角深入分析了数字生命卡兹克零编程基础、纯靠 AI 构建的开源项目 AIHot(AI 热点新闻聚合网站)。文章详细解读了项目的技术选型与架构:TypeScript 全栈 monorepo、React Router SSR 前端、Fastify API、pg-boss 任务队列,以及 RSS、网页爬虫、JSON 接口、推特、微信公众号等六种信源采集方式。重点剖析了其基于大模型的文章处理流程:预筛、五维度加权打分、摘要生成、向量聚簇归组。作者由此引申讨论 AI 时代软件工程可维护性标准的转变:程序员注意力从代码实现转向架构设计与约束,类比铝从贵金属到飞机材料的价值观变迁。
前xAI联合创始人克里斯蒂安·塞格迪以个人经历切入,回忆自己作为匈牙利数学竞赛少年的成长与竞赛结束后的空虚。他将纯粹数学研究比作在未知丛林中的探险:绘制地图、寻找矿藏、打造工具。而人工智能如今正处于莱特兄弟时代的飞机阶段——尚显原始但进步神速,已开始在数学岩石上插旗(解决猜想)。作者认为,AI终将彻底改变数学研究的方式,数学不会终结,而是像他当年的竞赛生涯一样'毕业',从学术界安静的角落蜕变为驱动一切科技进步的成熟产业。孤胆英雄时代落幕,大规模探索时代开启。
文章阐述LLM的输出并非猜测,而是优化的结果。作者从基础数学概念讲起,介绍了优化问题的本质:找到使函数最大化或最小化的输入。文章系统梳理了几个关键优化方法:牛顿法(通过切线逼近快速求零点和极值,是现代训练算法的祖先)、黄金分割搜索(无需导数、利用黄金比例实现指数级收敛,用于超参数调优)、单纯形法(1947年Dantzig发明,通过沿多面体顶点移动求解线性规划问题)。文章解释了梯度下降作为简化版牛顿法如何训练拥有数万亿参数的语言模型,并对比了单纯形法与内点法在理论与实践性能上的差异。
本文介绍 Atomic 团队提出的编码 agent 工作流概念:将软件开发流程定义为可执行的显式路径,用 TypeScript 表达,包含输入与成功标准、有边界的阶段与工具、可检视的移交、相关检查、审查批准点、停止与恢复条件六大要素。文章对比了一次性提示与结构化工作流的适用场景,说明 agentic coding 与 agentic engineering 的区别,并介绍工作流如何在运行时物化为可检视的 DAG,以及功能交付、缺陷排查、迁移、发布准备等常见工作流形态,强调可验证性与人工控制的重要性。
文章探讨了软件工程正从'本地交互式提示驱动'向'软件工厂'范式转变。作者Zach Lloyd认为,工厂模式下代理将在整个软件生命周期中承担更多自主工作,这一转变虽具挑战,但在生产力、成本管理和控制方面的收益深远。他反驳了'黑灯工厂'(完全无人类监督)的现实性,指出这会导致团队士气低落。工程师将拥有两大职责:一是'产品工程',负责判断构建什么、产品体验与设计;二是'工厂工程',通过测量DORA指标、LLM评审分数、优化技能、上下文和模型组合来持续改进工厂的自动化程度。文章以Warp团队实践为例,介绍了'每个PR的人类介入次数'等度量方式。