机器学习和新物理学:Physics of AI
本文尝试将机器学习视为一个复杂世界,借鉴物理学的研究方法,为其构建一套“新物理学”。文章首先论证守恒量和对称性比微观方程更根本,通过解析力学、热力学和量子场论的历史案例说明这一点。随后探讨真实世界中对称性破缺的层级,类比非惯性系中的守恒量变化,为后续将机器学习中的训练过程映射为对称性破缺和守恒量变化奠定基础。
本文尝试将机器学习视为一个复杂世界,借鉴物理学的研究方法,为其构建一套“新物理学”。文章首先论证守恒量和对称性比微观方程更根本,通过解析力学、热力学和量子场论的历史案例说明这一点。随后探讨真实世界中对称性破缺的层级,类比非惯性系中的守恒量变化,为后续将机器学习中的训练过程映射为对称性破缺和守恒量变化奠定基础。
文章指出数学有 Lean、代码有编译器和测试作为不可欺骗的裁判,而物理缺乏机器验证器,导致物理 AI 卡在起跑线前。作者分析 LLM 最擅长伪造物理学家依赖的廉价可信信号(量纲一致、推导自洽、独立路径吻合等),且最危险的错误是将近似用在适用域之外。文章借鉴数学和代码领域建立裁判后能力爆发的经验,提出为物理构建可机检的验证层,输出覆盖度证书,包含量纲检查、对称性验证、数值模拟交叉验证和强制隔离的多路径推导,目标客户是做物理的 AI Agent。
文章指出大模型使内容生成成本下降两个数量级,而审查成本不降反升,导致开源、安全、学术、法律、招聘、教育等领域同时遭遇审查瓶颈。以 Rust 的 LLM 政策草案、curl 关闭赏金计划等案例为切入点,分析审查容量受限于人力与责任、AI 产出缺乏质量信号且更难审查,并将各领域按有无非人类验证器分为三组,揭示提交与审查成本缺口不断扩大、系统性信任机制被压垮的趋势。
本文系统梳理了物理对机器学习79个开放问题的贡献,按定题、构造块、学习、实验四块逐一分析。作者提出物理介入ML的三条路径:分析方法、模型来源、科研制度,并指出现有综述缺乏按具体问题组织的映射。文中详细评估了每条问题物理能否解决,标注为能、部分或不能,并给出对应的物理方向。最终统计显示,物理在构造块(模型来源)贡献最大,在定题块(语义与目标)几乎无能为力。文章强调物理的价值在于提供分析工具、模型灵感和科研规范,而非万能解药。
本文系统梳理了机器学习领域的开放问题,将其归纳为两个主干:缺乏有效状态变量和缺乏低成本可重复的因果实验制度。作者提出了一套筛选标准,强调问题应具有可操作性和可证伪性。文章详细分析了状态变量应满足的五条性质,以及因果实验制度面临的样本量、可复现性和归因三大短板。此外,还讨论了裁判质量作为横切轴的重要性,并区分了噪声与偏差的成本差异。
本文提出了一套机器学习方法论的统一框架,将学习算法拆解为十八个节点、四大块,以回答PCA、Transformer等不同方法在方法论上的异同。作者指出传统教科书定义、CRISP-DM流程和Domingos三元组的不足,特别是将“优化”作为第三列命名的问题,并引入闭式解、特征分解、积分等七种参数确定方式。文章详细阐述了定题与构造的前九个节点,包括三层代理(W/M/L)、目标与数据顺序、函数族、归纳偏置、参数化形态等,强调组合视角和归纳偏置的重要性。
本文是量子力学研究史的中篇,聚焦于量子力学如何为与狭义相对论相容而演变为量子场论的过程。文章从薛定谔方程的局限出发,阐述了场量子化的必要性,介绍了狄拉克方程、反物质、真空涨落等关键概念,并详细讨论了量子场论中遇到的无穷大问题及重整化方法。最终,文章梳理了从量子场论到标准模型的发展脉络,指出标准模型的成就与局限,强调了场作为基本物理实在的视角转变。
本文是量子力学研究史的下篇,聚焦于多体物理、涌现现象与量子信息。文章从狄拉克1929年的宣言切入,指出量子力学虽为化学和物质科学提供了底层定律,但多体系统的指数墙使得精确求解不可能。随后回顾了平均场方法、能带理论、隧穿效应、白矮星简并压等关键进展,并指出莫特绝缘体等强关联系统暴露了单粒子图像的局限。最后,文章介绍了朗道相变理论、准粒子概念以及量子信息科学如何利用多体系统的量子特性,展现了量子力学从微观原理到宏观物质世界的深刻影响。
本文系统梳理了AI Agent从1958年McCarthy的Advice Taker到2026年的七十年演化历程,指出其核心循环架构(感知-规划-行动-反思)自1972年Shakey机器人以来基本未变,真正变化的是循环中负责决策的“大脑”,经历了符号系统、专家系统、深度强化学习到大语言模型的更替。文章认为,大语言模型通过上下文学习和从文本中吸收常识,解决了前两代大脑“常识写不完”的致命缺陷,从而引爆了2023年的Agent浪潮。同时,文章提出关键观点:2023年的Agent技术栈大多是模型缺陷的补丁,随着模型能力增强,这些补丁将逐渐被拆除,最终通过训练直接获得能力。全文以METR时间视野曲线为衡量标尺,并埋下多条线索,在后续章节中逐一展开。
文章探讨了AI在物理学领域的应用现状与瓶颈。作者将物理学研究分为解析求解、数值模拟、有效理论构造等五条路线,指出AI在受限于计算能力的领域(如分子模拟、引力波参数估计)取得了显著的“化解”与“新能力”突破;但在依赖概念创新和理论构造的领域,AI仍进展甚微。文章通过重新梳理物理学家的工作方式,提供了一个评估AI实际价值的新视角。
本文系统梳理了MoE(混合专家)模型的概念分歧与技术演进。针对目前命名混乱导致的认知误区,作者明确划分了两条核心技术路线:一是追求参数量与计算量解耦的稀疏路线,已成为大语言模型的默认架构;二是通过多门控机制实现任务共享的MMoE路线,主要应用于推荐系统。文章深入回顾了条件计算思想,并详细探讨了稀疏MoE在路由设计、负载均衡、并行通信等工程实践及结构演进的现状。
本文介绍了 Forward Deployed Engineer (FDE) 这一岗位在 AI 时代的复兴。FDE 起源于 Palantir,是指深入客户现场将产品从演示推向生产的工程师。随着 AI 从辅助工具转向具备写权限的 Agent,企业对责任边界、流程重构的需求激增,使得 FDE 再次成为热点。文章详细解析了 FDE 的工作内容、小队作战模式及其在产品反馈中的核心价值。
本文回顾了量子力学发展的上半场历史(1859-1932)。文章从十九世纪末经典物理大厦的完美与裂缝讲起,重点梳理了黑体辐射问题、原子光谱线的发现以及电子的发现如何一步步逼迫物理学家走出经典框架。文中详细介绍了普朗克如何为了解决黑体辐射公式而无奈引入能量量子,以及爱因斯坦如何将光量子概念推向物理实在,最终引出了波粒二象性和概率性的雏形。
文章深入探讨了纳维-斯托克斯(NS)方程在数学、物理和工程三个层面的难题。它不仅是千禧年大奖难题之一,在物理上对应着至今未解的湍流问题,在工程计算中则面临算力难以企及的挑战。
文章回顾了华尔街从人工喊价交易到算法高频交易的演变过程。通过分析电子化、十进制报价和Reg NMS监管变革三道闸门,揭示了算法如何取代人类做市商,以及速度如何成为新的硬通货,最终导致交易逻辑和市场结构的彻底重构。
文章分析了2026年顶尖独立VC机构的投资动向,指出资本正从浅层应用转向硬基建、物理世界和深垂直领域。通过分析赛道年龄、轮次和具体公司(如Atoms、Etched、Cognition等),揭示了AI创业窗口正在收窄,而推理芯片、机器人、企业Agent及特定垂直工作流成为投资热点。
文章深入探讨了 AI 安全领域的四种核心恐惧:滥用、日常失效、失控及结构性风险。作者区分了 Security 与 Safety 的概念,并以证据强度为线索,剖析了从生化武器制造、网络攻击到模型对齐造假等具体问题,强调舆论关注与真实风险之间的错位。
文章回顾了强化学习七十年跌宕起伏的发展历程。从心理学的效果律与数学的动态规划这两条根源讲起,梳理了教科书时期的理论奠基与早期边缘化。随后,深度学习的引爆带来了黄金年代,DQN与AlphaGo的辉煌让强化学习备受推崇。然而,样本效率等缺陷曾让其一度跌入谷底。如今,这门学科在大模型时代通过RLHF等技术奇迹般重生,再次站到了AI舞台的中央。
文章深入分析了AI产业面临的商业模式危机。尽管AI产品需求旺盛、用户增长迅速,但巨额的资本开支与实际收入之间存在巨大鸿沟。模型公司夹在中间,面临重工业般的投入成本、大宗商品般的定价压力,却享受着软件公司的高估值,这种结构性错配导致其长期盈利能力存疑。
文章回顾了流体力学三百年的发展历程,从阿基米德的静力学开端,到达芬奇的观察,再到欧拉建立场论方程。文章重点探讨了流体力学拥有完美方程却无法预测湍流的悖论,以及非线性项带来的数学挑战,并最终将落脚点引向了现代AI技术。
文章介绍了希尔伯特1900年提出的第六问题,即“物理学公理的数学处理”。文章详细梳理了该问题的历史背景,包括当时的物理学危机、原子论与唯能论的争论,以及希尔伯特试图从微观原子运动严格推导出宏观连续介质定律的数学野心。文章还关联了2026年菲尔兹奖得主邓煜对该问题相关领域的研究贡献。
文章深入浅出地讲解了信息论的起源、核心概念及其与人工智能的关系。内容涵盖香农在1948年奠定的信息论基础(如熵、比特、信道容量定理),回顾了奈奎斯特、哈特利及玻尔兹曼等前人的贡献,并探讨了交叉熵、KL散度等概念如何成为衡量AI模型误差的关键工具。文章指出,尽管信息论为AI提供了度量语言,但在解释智能本质上仍有局限。
本文深入探讨了AI可解释性的必要性、定义及核心方法。文章区分了调试、合规与安全三种不同需求,辨析了事前与事后、局部与全局解释的差异,重点介绍了从LIME/SHAP等经典归因法到大模型时代的机制可解释性(如SAE和电路分析)的演进,并强调“忠实性”优于“可读性”的核心原则。
本文从资本视角审视 AI for Science(AI4S)赛道。文章指出,2025-2026 年 AI 融资呈现极度集中的哑铃型结构,AI4S 虽处热潮,但门槛已变高。资本涌入的核心逻辑是“互联网文本数据耗尽”,科学实验被视为下一个高质量数据金矿。文中分析了 Periodic Labs 等头部玩家的融资情况,区分了造神型、IP 授权型及卖铲子型等不同商业模式,并指出该领域核心玩家多为近三年成立的初创公司,赛道格局未定,仍有入场机会。
这是一份按主题编排的AI领域人物小传(上篇),涵盖了从深度学习奠基者、大模型实验室领袖、Transformer论文作者到顶尖学术研究者的75位关键人物。文章详细介绍了每个人的背景、核心贡献及当前动态,包括Hinton、LeCun、Altman等业界巨擘。
本文深度复盘了区块链从2008年金融危机后的极客实验,到2021年三万亿美元泡沫顶峰,再到最终崩盘的全过程。文章剖析了背后的意识形态演变、资本狂热与技术现实的错位,将其比作一场完整的“尸检”。作者指出,塌掉的是被过度包装的宏大叙事,而非技术本身。通过对比当下的AI热潮,文章警示了同一拨资本如何利用“这次不一样”的口号在不同技术周期间制造泡沫。
本文是AI工程全景的中篇,深入探讨了模型训练完成后的工程化路径。首先详述了推理优化的核心手段,包括模型瘦身(量化、蒸馏、剪枝、MoE)、投机解码以及主流推理引擎(vLLM, TensorRT-LLM, SGLang)的生态格局。文章分析了成本、延迟与吞吐的“不可能三角”,并重点介绍了“测试时计算”这一范式转变,即通过在推理阶段增加计算量来动态提升模型智能。
文章详细梳理了人工智能的工程基础,回顾了从GPU游戏显卡到英伟达CUDA生态建立的历史,解析了其技术护城河。同时指出2026年硬件格局的松动,分析了谷歌TPU的回归与AWS自研芯片的崛起,展示了英伟达在推理领域面临的竞争态势。
本文是《人工智能的工程全景》系列的下篇,深入探讨了2025-2026年AI行业的竞争焦点——Agent工程层。文章从Agent定义的演变出发,区分了Workflow与Agent的本质差异,解析了ReAct架构与关键能力清单。重点介绍了Function Calling的工业化起点、MCP协议带来的工具调用标准化,以及Context Engineering与Harness Engineering在Agent系统构建中的核心地位。
作者介绍了其构建的“Vibe OS”个人系统架构的哲学基础。核心原则是“人永远站在系统之外”,区分了AI负责的“工具理性”与人的“价值理性”。文章详细阐述了输入端“脉搏学习”与“深潜学习”的双轨制,以及输出端以写作为思考验证、以产品解决真实需求的方法,最终提出了“由己及人”的个人市场演化路径。