机器学习和新物理学：Physics of AI
本文尝试将机器学习视为一个复杂世界，借鉴物理学的研究方法，为其构建一套“新物理学”。文章首先论证守恒量和对称性比微观方程更根本，通过解析力学、热力学和量子场论的历史案例说明这一点。随后探讨真实世界中对称性破缺的层级，类比非惯性系中的守恒量变化，为后续将机器学习中的训练过程映射为对称性破缺和守恒量变化奠定基础。
全部文档 / 作者: snowboat / 标签: 机器学习
7 篇
Physics for AI 总纲领
本文系统梳理了物理对机器学习79个开放问题的贡献，按定题、构造块、学习、实验四块逐一分析。作者提出物理介入ML的三条路径：分析方法、模型来源、科研制度，并指出现有综述缺乏按具体问题组织的映射。文中详细评估了每条问题物理能否解决，标注为能、部分或不能，并给出对应的物理方向。最终统计显示，物理在构造块（模型来源）贡献最大，在定题块（语义与目标）几乎无能为力。文章强调物理的价值在于提供分析工具、模型灵感和科研规范，而非万能解药。
机器学习的开放问题总论
本文系统梳理了机器学习领域的开放问题，将其归纳为两个主干：缺乏有效状态变量和缺乏低成本可重复的因果实验制度。作者提出了一套筛选标准，强调问题应具有可操作性和可证伪性。文章详细分析了状态变量应满足的五条性质，以及因果实验制度面临的样本量、可复现性和归因三大短板。此外，还讨论了裁判质量作为横切轴的重要性，并区分了噪声与偏差的成本差异。
机器学习的方法论总论
本文提出了一套机器学习方法论的统一框架，将学习算法拆解为十八个节点、四大块，以回答PCA、Transformer等不同方法在方法论上的异同。作者指出传统教科书定义、CRISP-DM流程和Domingos三元组的不足，特别是将“优化”作为第三列命名的问题，并引入闭式解、特征分解、积分等七种参数确定方式。文章详细阐述了定题与构造的前九个节点，包括三层代理（W/M/L）、目标与数据顺序、函数族、归纳偏置、参数化形态等，强调组合视角和归纳偏置的重要性。
AI for Physics 全景图
文章探讨了AI在物理学领域的应用现状与瓶颈。作者将物理学研究分为解析求解、数值模拟、有效理论构造等五条路线，指出AI在受限于计算能力的领域（如分子模拟、引力波参数估计）取得了显著的“化解”与“新能力”突破；但在依赖概念创新和理论构造的领域，AI仍进展甚微。文章通过重新梳理物理学家的工作方式，提供了一个评估AI实际价值的新视角。
当物理遇上AI：深度学习里的物理元素（上）
文章探讨了物理学与人工智能（特别是深度学习）之间的深刻联系。作者指出，神经网络本质上是一个类似于物理学中的“多体系统”，因此统计力学的语言天然适用于描述AI。文章详细拆解了能量最小化、Softmax（玻尔兹曼分布）、交叉熵（信息熵）、VAE（自由能）以及最大熵原理等核心AI概念背后的物理学渊源，揭示了从蒸汽机到神经网络的知识传承。
什么是 Diffusion Model？图片视频生成模型全网最详细介绍
本文详细介绍了AI图像与视频生成背后的核心技术——扩散模型（Diffusion Model）。文章通过通俗易懂的语言，解释了其物理起源、从加噪到去噪的运作原理，以及它如何凭借稳定性优势逐渐取代GAN成为生成式AI的主流范式。