# 深度流形不是计划的
**作者**: deep Manifold
**日期**: 2026-07-21T07:39:42.000Z
**来源**: [https://x.com/BetaTomorrow/status/2079471363837022496](https://x.com/BetaTomorrow/status/2079471363837022496)
---

English Edition: Deep Manifold Was Not Planned
八年前,在我关于 Health AI 的第一篇 LinkedIn 文章中,我提到了项目 “Kahlua”,并给了自己 6–7 年的时间去把它想清楚,因为我当时已经怀疑,现实世界数据中的高阶非线性可能会导致我们需要许多 AI 模型。由于我来自数值计算背景,尤其熟悉 FEM 这类方法,我一直在试图弄清楚它们之间是否存在某种联系。
2024 年 5 月,我正计划写一篇关于高阶非线性的文章,但遇到了一个数学问题,于是我打电话给石根华。1989 年到 1999 年间,他曾是我的导师。那几年里,我跟随他研究高阶非线性与不连续系统,使用的是堆叠分片流形和不动点理论。为了方便我们的交流,我向他简要解释了神经网络。他当时的第一反应是:
- 神经网络是丰富而美丽的。
- 一切都在变化。
- 数学家不是这样训练的。

神经网络原来是一种可学习的数值计算,与堆叠分片流形和不动点类理论有着深刻联系,而这些正是我在 1989 年到 1999 年间跟随石根华学习的主题。我想,我当年大概不是一个很好的学生。到 2024 年 5 月,我已经做了八年 AI。
陈省身教授被广泛认为是二十世纪最伟大的几何学家之一。他并不只是石根华在加州大学伯克利分校博士论文委员会上的一个显赫名字。他的存在之所以重要,是因为他在石根华的计算构造中看到了某种几何本质。他提出的问题, “堆叠分片流形能否推广到任意复杂区域?” 并不是一个普通的论文委员会问题,而是一位几何学家在检验一个新思想的边界。实际上,陈省身是在追问:这种构造只是一个巧妙的数值工具,还是触及了某种更普遍的数学结构。

2024 年 6 月初,石根华在休假两周后回来了。他似乎一直在思考什么。在此之前,我们曾经就神经网络的基础问题进行过一次一对一讨论,持续了四到六个小时。当时,他答应我,在仔细想清楚之后,会把他的看法告诉我。
当他回来并告诉我他这段时间一直在思考什么时,内容远远超出了我的预期。随后,我们便有了那场“数学家不是这样训练的”的对话。

我们的初始目标非常简单:检验神经网络是否建立在分片流形之上;如果是,那么它们具有什么样的几何结构。我曾两次向根华提到这个目标,而他每次的回答都一样:“你太谦虚了。” 后来我才意识到,他已经看到了我在许多个月之后才逐渐理解的东西。
在写论文的过程中,我逐渐意识到:
- 神经网络的隐藏层并不一定只是“隐藏”的。基于我在 1990 年代数值计算中的经验,我一直不太喜欢“隐藏层”这个说法。毕竟,人类大脑并没有所谓的隐藏层。这意味着,神经网络有潜力成为一个研究人类大脑的数学框架。
- 然后是不动点的连接。
当我开始意识到深度流形潜在的商业价值时,我们的第一篇论文 Deep Manifold Part 1: Anatomy of Neural Network Manifold(arXiv:2409.17592, 2024)带有许多 “尴尬”,因为我当时还不知道如何处理这种价值。后来,我告诉根华,深度流形太大,不能一直藏在秘密里:“如果我们守不住它,那么它就不只属于我们。” 因此,我们的第二篇论文 Deep Manifold Part 2: Neural Network Mathematics(arXiv:2512.06563, 2025)在某种意义上是一篇补课论文,试图尽可能覆盖更多内容;这项工作还将继续进入我们的第三篇论文 Deep Manifold Part 3: Neural Fixed Point Field (TBD, 2026).
深度流形之前,已经有一个东西存在:学习空间(Learning Space)。
在同一篇 2018 年的 LinkedIn 文章中,我第一次提出了 “蓝领智能(Blue-Collar AI)” 这个概念,因为在进入 IT 和 AI 之前,我曾经在施工现场工作了将近五年。对于现实世界中的企业级应用来说,AI 的准确率必须接近 100% 的可靠性,因为训练有素的蓝领工人在正常工作环境中的错误率往往在 1% 左右。只有先尊重这一标准,AI 才能真正服务于现实工作。
我做 “蓝领智能” 已经将近八年。随着时间推移,这种现实世界中的企业级 AI 工作把我带到了 “学习空间” 这个概念。我已经成功地通过认识到模型大小取决于学习空间来大幅减少参数量:也就是一个模型在某个任务中实际需要学习的区分集合。那时,我还没有把这项工作同不动点理论联系起来,尽管我在 30–40 年前就已经很熟悉它了。

以 ImageNet 为例,室内/室外分类所定义的学习空间,远小于 20K+ 细粒度类别所定义的学习空间,因此模型可以在不损失性能的情况下被大幅缩小。
在两个现实世界项目中,目标差异本身就很难被人眼识别,但我们仍然大幅减少了参数量:项目 A 从 60 MB 减少到 1.25 MB,项目 B 从 56 MB 减少到 6.2 MB。减少幅度分别约为 48 倍 和 9 倍,在正常使用中没有观察到性能损失。
- What is Deep Manifold ?
- Neural Network Fixed-Point Field
- Deep Manifold in the Real World
Single Token Geometry Series 单标几何系列
1. Single Token Geometry 01: Topology 单标的几何:拓扑
2. Single Token Geometry 02: DeepSeek V4 and Manifold Tearing 单标几何:DeepSeek V4 与流形撕裂
3. Single Token Geometry 03: Data Complexity 单标几何:数据复杂性
4. Single Token Geometry 04: A Critique of Manifold Steering 单标几何:对流形引导的批评
5. Single Token Geometry 05: Numerical Manifold Method 单标几何 :数值流形
6. Single Token Geometry 06: Stacked Piecewise Manifold 单标几何 06:堆叠分片流形
7. Single Token Geometry 07: Attention 单标几何 07:注意力
deepmanifold.ai
## 相关链接
- [deep Manifold](https://x.com/BetaTomorrow)
- [@BetaTomorrow](https://x.com/BetaTomorrow)
- [224](https://x.com/BetaTomorrow/status/2079471363837022496/analytics)
- [Deep Manifold Was Not Planned](https://x.com/BetaTomorrow/status/2079466157229347148)
- [石根华](https://baike.baidu.com/item/%E7%9F%B3%E6%A0%B9%E5%8D%8E/5573442)
- [数学家不是这样训练的](https://x.com/BetaTomorrow/status/1953349251255419103)
- [What is Deep Manifold ?](https://x.com/BetaTomorrow/status/2070113382347461038)
- [Neural Network Fixed-Point Field](https://x.com/BetaTomorrow/status/2075335417189257256)
- [Deep Manifold in the Real World](https://x.com/BetaTomorrow/status/2072044191023329753)
- [Single Token Geometry 01: Topology 单标的几何:拓扑](https://x.com/BetaTomorrow/status/2045685439156437196)
- [Single Token Geometry 02: DeepSeek V4 and Manifold Tearing 单标几何:DeepSeek V4 与流形撕裂](https://x.com/BetaTomorrow/status/2047842924923416696)
- [Single Token Geometry 03: Data Complexity 单标几何:数据复杂性](https://x.com/BetaTomorrow/status/2050461737363951997)
- [Single Token Geometry 04: A Critique of Manifold Steering 单标几何:对流形引导的批评](https://x.com/BetaTomorrow/status/2052624515541410112?s=20)
- [Single Token Geometry 05: Numerical Manifold Method 单标几何 :数值流形](https://x.com/BetaTomorrow/status/2055396749729223026)
- [Single Token Geometry 06: Stacked Piecewise Manifold 单标几何 06:堆叠分片流形](https://x.com/BetaTomorrow/status/2060220654121890290)
- [Single Token Geometry 07: Attention 单标几何 07:注意力](https://x.com/BetaTomorrow/status/2062620023563378790)
- [deepmanifold.ai](https://deepmanifold.ai/)
- [Upgrade to Premium](https://x.com/i/premium_sign_up)
- [3:39 PM · Jul 21, 2026](https://x.com/BetaTomorrow/status/2079471363837022496)
- [224 Views](https://x.com/BetaTomorrow/status/2079471363837022496/analytics)
---
*导出时间: 2026/7/21 17:30:45*