深度流形不是计划的
本文回顾了作者从Health AI到“深度流形”理论的研究历程。作者通过与导师石根华的探讨，发现神经网络与堆叠分片流形、不动点理论存在深刻联系。文章介绍了“蓝领智能”和“学习空间”概念，展示了通过理解学习空间大幅减少模型参数量的实践，并阐述了深度流形在AI数学框架及现实应用中的潜力。
相关文档
什么是深度流形？
本文介绍深度流形框架，一个旨在揭示神经网络数学结构的理论体系，由四大支柱构成：学习作为反问题（解释了学习的适定性与锯齿智能现象）、范畴论（神经网络学习的是数据间关系而非数据本身）、堆叠分片流形（学习发生在层与迭代形成的演化几何结构中）、不动点理论（描述学习在变化边界条件下的推进方式）。文章阐述了神经网络方程、训练动力学、模型推理的数学原理，指出网络能力源于计算的无属性性与满秩性。该框架旨在为神经网络建立严谨的数学基础，实际意义在于实现更高效的学习、更好的对齐和更小的模型。
从邓煜2026年菲尔兹奖的数学工作看人工智能
文章通过分析2026年菲尔兹奖得主邓煜关于硬球动力学与玻尔兹曼方程的数学工作，探讨了人工智能的数学本质。文章指出，AI的核心能力在于在没有已知全局方程的情况下进行可学习数值计算，并强调AI的宏观能力源于局部数学结构的长期演化与闭合，而非单纯规模扩张。
BestBlogs 早报｜YC Paper Club 拆解推理服务系统，Amazon CEO 谈算力供需与投入，Naveen Rao 谈推理经济学
本期早报围绕推理计算的经济与工程展开。YC Paper Club 分享拆解推理请求生命周期，涵盖路由、缓存、分词调度、编译优化与服务质量监测，强调训练之后的服务开销巨大且需要系统性优化；Amazon CEO Andy Jassy 访谈解释了 2026 年 2200 亿美元资本开支背后的建设周期、现金流压力与企业 AI 应用的杠铃格局，指出推理降价将打开更多采用场景；Naveen Rao 则从能源效率视角讨论模型、硬件协同设计，预测推理可能成为 10 万亿美元市场，并探讨规格定义与验证在 AI 自动化交付中的关键作用。速览部分还涉及模型越界安全评估、桥水知识库建设和 AI 个人助理产品竞争。
关于人工智能仿真与 RSI 的数学思考
作者从数值仿真研究背景出发，探讨人工智能仿真与递归自我改进（RSI）之间的数学联系。文章回顾了非连续变形分析（DDA）在地震工程中的应用、二战德军潜艇狼群战术与英国兵棋推演的历史，说明仿真不仅是求解已知方程，更是发现未知数学关系的实践方法。作者认为RSI本质上是仿真及反馈过程的自动化：多智能体系统可模拟兵棋推演中的各方参与者，通过反复生成场景、评估结果并保留改进来提升能力。文章进一步讨论了运筹学、参数化与非参数化方法、接触理论及不等式系统在仿真中的数学基础，并强调RSI会同时放大改进与错误，验证与基准检验必须贯穿整个迭代过程，以防止未经验证的结果成为后续自我改进的基础。
AI 眼里根本没有猫，那它到底是怎么认出猫的？｜从 0 开始理解大模型底层
本文从最简单的线性模型 y=wx+b 出发，逐步拆解神经网络识别图片的原理。作者解释了为何单层线性计算表达能力不足，堆叠多层也仍会退化为一次线性变换，因此需要 ReLU 等激活函数引入非线性。随后说明图像如何从原始像素经多层计算被加工成适合任务的内部表示，并澄清了'第一层看线条、第二层看耳朵'的常见误解。文章还介绍了万能逼近定理的含义与局限、CNN 与 Transformer 的关系，以及模型为何是黑箱与机制可解释性，最后引出过拟合问题，为下一篇泛化主题做铺垫。
AI 到底是怎么学会东西的？我把机器学习的训练过程拆开看了一遍
文章以通俗易懂的方式拆解机器学习的训练原理。作者从传统编程与机器学习的思维差异切入，说明机器学习是让计算机从数据中自行寻找规律。随后讲解核心概念：X→Y 的映射、特征与标签、向量/矩阵/张量的数据表示、Embedding 的意义；再解释模型本质是带大量可调参数的函数，训练通过损失函数衡量错误，借助导数与梯度判断参数调整方向，梯度下降如蒙眼下山的比喻直观呈现了这一过程。文章还涵盖局部最优与鞍点、泛化能力、Batch/SGD/Mini-batch 的取舍以及 Adam 优化器的改进思路，帮助初学者建立机器学习的整体认知框架。
The Math Needed for AI Inference Engineering (Complete Roadmap)
本文系统梳理了AI推理工程所需的核心数学知识路线图。内容涵盖：浮点数表示（FP32/FP16/BF16/FP8/INT8等格式的位分配与精度/范围权衡）、舍入误差累积、溢出与下溢、机器epsilon、灾难性消除及稳定softmax与log-sum-exp技巧；量化数学，包括scale与zero-point线性映射、对称/非对称量化、粒度选择、范围裁剪、激活离群值处理及基于Hessian的曲率方法；以及线性代数计算成本分析，如矩阵乘法的浮点运算量与内存读写开销估算。作者强调在性能分析前能手算层耗时是推理工程中最有价值的习惯。
KV Cache Engineering for LLM Serving, clearly explained
文章系统讲解了LLM推理中KV缓存的工程优化。KV缓存随序列长度增长，Llama 3.1 70B单条128K序列的BF16缓存约需40GB，成为GPU内存和注意力计算的双重瓶颈。作者将12种优化技术按减少的对象分类：GQA/MQA减少KV头数量，跨层注意力减少缓存层数，滑动窗口与淘汰减少保留token数，MLA减少表示宽度，量化减少字节数，混合循环层用固定状态替代增长缓存，分页与前缀复用减少分配浪费。文章配有可运行代码示例，并分析各技术的适用场景与权衡。
小白必看：从词向量到Transformer，一口气搞懂自然语言NLP技术发展
文章以一个趣味猜词游戏切入，通俗易懂地讲解NLP技术的演进历程。首先介绍基于统计的N-gram模型及其在组合爆炸和语义理解上的局限；接着引出词向量（Word Embedding），通过高维空间中的坐标表示词语含义，使模型具备泛化能力；然后讲解前馈神经网络如何利用词向量进行预测；再介绍RNN通过隐藏状态机制处理任意长度文本，实现记忆功能；最后指出RNN存在长期依赖问题，为LSTM等改进方案做铺垫。全文循序渐进，用生活化例子帮助读者理解语言模型预测下一个词的基本原理。
AI for Science：自我演化发现的黎明
本文基于曹原访谈，探讨数学、逻辑与物理世界的区别及AI在科学发现中的局限。AI擅长演绎推理，但跨越物理边界面临挑战。真正的科学智能需要从封闭学习空间转向开放式自我演化，通过实验反馈不断重构关系结构。
Against agent sprawl: what comes after harnesses
本文探讨了在模型与工具链（harness）协同进化背景下，智能体（agent）数量激增带来的管理挑战。作者指出，前沿实验室将模型与工具链作为整体优化，导致用户需要运行多个异构工具链以控制质量、性能和成本，形成“工具链舰队”。然而，人类注意力有限，成为新的瓶颈。为此，作者提出“depot”（枢纽）作为新的抽象层，集中管理多个工具链，提供状态报告、人工审查、持久执行和内部通信功能，使人类能像管理者一样专注于关键决策。文章强调，审查和评估将成为新的核心工作，并展望了未来工具的发展方向。
现代科技与人工智能：改变一切的时代
文章探讨了人工智能如何重塑智能手机、自动驾驶、医疗、机器人、智慧城市和太空探索等关键领域，并提出了关于隐私、责任、伦理和人类独特性等深刻问题。作者认为AI是反映我们数据、价值观和梦想的镜子，其发展取决于我们自身。
