机器学习的方法论总论
本文提出了一套机器学习方法论的统一框架，将学习算法拆解为十八个节点、四大块，以回答PCA、Transformer等不同方法在方法论上的异同。作者指出传统教科书定义、CRISP-DM流程和Domingos三元组的不足，特别是将“优化”作为第三列命名的问题，并引入闭式解、特征分解、积分等七种参数确定方式。文章详细阐述了定题与构造的前九个节点，包括三层代理（W/M/L）、目标与数据顺序、函数族、归纳偏置、参数化形态等，强调组合视角和归纳偏置的重要性。
全部文档 / 作者: snowboat / 标签: Transformer
4 篇
MoE与MMoE模型详解：从稀疏扩容到多任务学习
本文系统梳理了MoE（混合专家）模型的概念分歧与技术演进。针对目前命名混乱导致的认知误区，作者明确划分了两条核心技术路线：一是追求参数量与计算量解耦的稀疏路线，已成为大语言模型的默认架构；二是通过多门控机制实现任务共享的MMoE路线，主要应用于推荐系统。文章深入回顾了条件计算思想，并详细探讨了稀疏MoE在路由设计、负载均衡、并行通信等工程实践及结构演进的现状。
AI 大V人物小传（上）
这是一份按主题编排的AI领域人物小传（上篇），涵盖了从深度学习奠基者、大模型实验室领袖、Transformer论文作者到顶尖学术研究者的75位关键人物。文章详细介绍了每个人的背景、核心贡献及当前动态，包括Hinton、LeCun、Altman等业界巨擘。
什么是具身智能？它跟 AI 的关系是什么？
文章深入解析了具身智能的定义、历史渊源及发展现状。作者区分了具身智能与传统机器人，指出其核心在于感知-行动闭环与物理世界的实时交互。文章回顾了从符号主义、行为主义到深度学习、Transformer时代的技术演进，分析了VLA模型如何继承大模型能力来突破泛化难题，探讨其与AI的本质关系及未来前景。