机器学习和新物理学:Physics of AI
本文尝试将机器学习视为一个复杂世界,借鉴物理学的研究方法,为其构建一套“新物理学”。文章首先论证守恒量和对称性比微观方程更根本,通过解析力学、热力学和量子场论的历史案例说明这一点。随后探讨真实世界中对称性破缺的层级,类比非惯性系中的守恒量变化,为后续将机器学习中的训练过程映射为对称性破缺和守恒量变化奠定基础。
本文尝试将机器学习视为一个复杂世界,借鉴物理学的研究方法,为其构建一套“新物理学”。文章首先论证守恒量和对称性比微观方程更根本,通过解析力学、热力学和量子场论的历史案例说明这一点。随后探讨真实世界中对称性破缺的层级,类比非惯性系中的守恒量变化,为后续将机器学习中的训练过程映射为对称性破缺和守恒量变化奠定基础。
文章探讨了AI在物理学领域的应用现状与瓶颈。作者将物理学研究分为解析求解、数值模拟、有效理论构造等五条路线,指出AI在受限于计算能力的领域(如分子模拟、引力波参数估计)取得了显著的“化解”与“新能力”突破;但在依赖概念创新和理论构造的领域,AI仍进展甚微。文章通过重新梳理物理学家的工作方式,提供了一个评估AI实际价值的新视角。
文章回顾了流体力学三百年的发展历程,从阿基米德的静力学开端,到达芬奇的观察,再到欧拉建立场论方程。文章重点探讨了流体力学拥有完美方程却无法预测湍流的悖论,以及非线性项带来的数学挑战,并最终将落脚点引向了现代AI技术。
文章介绍了希尔伯特1900年提出的第六问题,即“物理学公理的数学处理”。文章详细梳理了该问题的历史背景,包括当时的物理学危机、原子论与唯能论的争论,以及希尔伯特试图从微观原子运动严格推导出宏观连续介质定律的数学野心。文章还关联了2026年菲尔兹奖得主邓煜对该问题相关领域的研究贡献。
文章探讨了物理学与人工智能(特别是深度学习)之间的深刻联系。作者指出,神经网络本质上是一个类似于物理学中的“多体系统”,因此统计力学的语言天然适用于描述AI。文章详细拆解了能量最小化、Softmax(玻尔兹曼分布)、交叉熵(信息熵)、VAE(自由能)以及最大熵原理等核心AI概念背后的物理学渊源,揭示了从蒸汽机到神经网络的知识传承。
本文是《当物理遇上AI》的下篇,探讨了深度学习中的未解难题与物理学现象的同构关系。作者详细分析了Scaling Law与临界标度律、模型涌现与相变、双下降曲线与随机矩阵理论之间的深层联系。文章评估了这些类比证据的强弱,指出部分物理数学工具已能精确推导AI行为,同时也讨论了争议与未解之谜。
本文回顾了1970年代之后现代数学的发展历程。随着物理学进展放缓,数学失去了最大的外部“客户”,导致代数几何、朗兰兹纲领等结构化数学分支陷入内循环和高塔化。与此同时,计算机科学与AI的崛起为数理逻辑和形式化证明带来了新的机遇。文章探讨了在基础物理停滞和计算机加速的背景下,纯数学界面临的“象牙塔”困境及AI是否会成为新的推动力。