什么是深度流形？
本文介绍深度流形框架，一个旨在揭示神经网络数学结构的理论体系，由四大支柱构成：学习作为反问题（解释了学习的适定性与锯齿智能现象）、范畴论（神经网络学习的是数据间关系而非数据本身）、堆叠分片流形（学习发生在层与迭代形成的演化几何结构中）、不动点理论（描述学习在变化边界条件下的推进方式）。文章阐述了神经网络方程、训练动力学、模型推理的数学原理，指出网络能力源于计算的无属性性与满秩性。该框架旨在为神经网络建立严谨的数学基础，实际意义在于实现更高效的学习、更好的对齐和更小的模型。
全部文档 / 标签: 训练动力学
2 篇
机器学习的开放问题总论
本文系统梳理了机器学习领域的开放问题，将其归纳为两个主干：缺乏有效状态变量和缺乏低成本可重复的因果实验制度。作者提出了一套筛选标准，强调问题应具有可操作性和可证伪性。文章详细分析了状态变量应满足的五条性质，以及因果实验制度面临的样本量、可复现性和归因三大短板。此外，还讨论了裁判质量作为横切轴的重要性，并区分了噪声与偏差的成本差异。
