文章介绍台湾大学李宏毅教授 2026 春季机器学习课程，该课程完成了从经典机器学习到大模型时代前沿课的彻底转型。课程以四幕叙事展开：AI Agent 与 Context Engineering、模型内部架构（Flash Attention、KV Cache、位置编码）、模型教育（Harness Engineering、自我修正）、模型自我成长（Self-Improving、自我进化 Agent）。十次硬核作业与授课主题严格对应，涵盖 LLM 安全、Agent 搭建、推理优化、后训练等技能。文章认为课程演变折射学科趋势：Agent 成应用层范式、系统级工程能力重要、后训练时代重心移向环境设计与模型自我进化。
这是一份针对计算机科学和数学专业大二学生的机器学习（ML）与强化学习（RL）入门阅读清单。清单分为四个部分：基础（如ResNet、Attention）、AI基础设施（如VAE、BERT、LoRA、Agent）、推理加速（如Linear Attention、Speculative Decoding）以及强化学习（如PPO、DPO、RLHF）。该列表由导师 Mingyang Yi 推荐，旨在帮助本科生构建系统的 AI 知识体系。
本文从“模式”（一列乘一行的秩1矩阵）概念出发，系统讲解 LoRA 与 QLoRA 如何降低大模型微调的显存开销。LoRA 通过低秩近似冻结原有权重，只训练少量新增模式（B·A），将可训练参数减少到约万分之一；量化则用 4 位 NF4 格式配合分块缩放和双重量化存储权重，保留全部模式但降低每个数的精度。QLoRA 结合两者：冻结权重用 4 位存储，LoRA 分支用 16 位训练，使 65B 模型只需一块 48GB GPU 即可微调，Guanaco 在 Vicuna 评测中达到 ChatGPT 的 99.3%。文中还比较了低秩近似与量化误差结构的不同，并给出 7B 模型显存估算：全参数微调约 100GB，LoRA 约 15GB，QLoRA 约 5GB。
作者宣布「从零手写大模型」系列完结，共20篇，包括推理篇15篇和训练篇5篇。推理篇涵盖分词器、嵌入层、位置编码、自注意力机制、多头注意力、残差连接、层归一化、Transformer模块等内容；训练篇涵盖损失函数、反向传播、梯度下降、Adam优化器和学习率调度。每篇都有可练习的代码示例，帮助读者理解模型如何生成文字以及如何从误差中学习更新参数。作者强调理论公式是精华，代码多被PyTorch封装。系列笔记已发布在个人网站上，欢迎交流指正。
本文深入解读斯坦福 2026 秋季研究生课程 MS&E 319《Efficient Generative Language Models》。该课程以「效率」为设计科学，在算力预算有限的约束下，沿大模型生命周期系统讲授预训练、架构、推理、后训练四阶段的效率技术，包括多 token 预测、Muon 优化器、MoE、稀疏注意力、FlashAttention、KV 缓存压缩、量化、投机解码、LoRA、DPO 与蒸馏等，并涵盖越狱攻击与模型窃取等安全议题。文章认为该课填补了教育生态空位，内容前沿性与领域同步，揭示了每项效率技术背后的权衡取舍。
文章从一张16GB显卡出发，系统拆解大模型本地部署的显存与速度权衡。首先澄清运行显存不只包含模型权重，还有KV Cache、运行时工作区和草稿模型开销；解释MoE与量化对容量和计算的不同影响，区分总参数与激活参数；分析CPU/GPU卸载的代价；介绍KV Cache与混合注意力如何影响上下文长度；区分Prefill与Decode两个阶段的速度特征；最后详解投机解码、MTP与DFlash/DFlash2的加速原理及实测收益。强调各优化手段需配合使用，预算刚好装满并不代表能稳定运行。
文章从马尔可夫毯与自由能原理出发，探讨新一代大模型（如GPT-6 Astra）的演进方向。作者认为，模型能力提升的关键在于与环境交互：通过观察、行动和反馈形成闭环，主动推断并选择信息量最大的行动。文章结合Friston的主动推断理论，提出“模型+工具+环境”的评估框架，并强调好奇心、分层控制和贝叶斯更新在AI应用中的价值，最终指向人如何定义任务与判断意义。
本文从零开始，深入浅出地讲解了Transformer的原理及其如何演变为大语言模型。文章首先介绍大模型的目标是预测下一个词，然后详细解释了如何将文字转换为数字，包括Token、Token ID、Embedding Matrix等概念。接着，重点剖析了Transformer的核心——注意力机制（Q、K、V）、多头注意力、位置编码、FFN以及残差连接等组件，最后概述了模型的训练过程。全文无需前置知识，适合初学者理解大模型的基础架构。
文章系统梳理了人工智能从1950年代至今的发展历程：萌芽探索期（图灵之问与达特茅斯会议）、知识驱动期（符号主义与专家系统）、统计学习期（机器学习与特征工程）、深度学习突破期（AlexNet与神经网络）、大模型时代（Transformer、GPT-3、ChatGPT与多模态）。作者指出AI处理信息的方式从人类编写规则，到机器从数据中学习，再到模型理解目标并自主完成任务。未来AI将从大模型走向智能体（Agent），能够拆解任务、制定计划、调用工具，实现从被动响应到自主行动的转变。
OpenClaw 发布 2.0 版本（2026.8.1），933 位贡献者参与、超16000个PR。文章分析其产品方向：从'能调用工具的聊天机器人'转向 AI Agent 时代的个人计算平台。主要变化包括：通过对话式引导简化安装配置、会话成为可迁移的计算容器、从个人 Agent 走向多人协作、记忆从保存历史升级为持续学习、输出从文本变为可操作界面（Widget、Dashboard）、安全机制进入核心体验（凭据遮罩、精确授权、审计）。作者认为 OpenClaw 正在补齐长期运行 Agent 系统所需的基础设施——身份、状态、记忆、权限、执行环境等，大模型只是大脑，而 OpenClaw 想做大脑之外的操作系统。
作者提出2026年AI Agent工程师的12步路线图，围绕决定Agent成败的七大支柱展开：上下文、工具、记忆、循环、图、Harness与评估。文章指出Agent失败的核心原因是上下文膨胀、循环不收敛、缺乏评估。前半部分详细讲解上下文工程（如Claude Code启动即加载约7850 token、精简系统提示、CLAUDE.md分层管理）、工具与MCP设计（用类型代替示例、延迟加载）、记忆管理（计划文件、主动压缩）等内容，强调七者是同一技能的不同投影，需按依赖顺序学习。
本文探讨了AI Agent在长期部署中面临的核心问题：完成多次任务后，其能力并未随之提升。作者介绍了Alloomi公司的技术路线，通过Holistic Context维护长期工作状态，以及Self-Evolving Agent将任务经验后训练进模型，形成“模型+应用”的反馈回路。文章详细解析了两份技术报告，包括上下文管理机制、后训练流程、基准测试结果及开源项目OpenContext的验证，指出当前证据仍属早期阶段，但为长期运行的Agent提供了可检查的工程入口。
本文深入探讨了 AI 领域中备受争议的“蒸馏”技术。文章追溯了蒸馏从最初的模型压缩方法到如今被用于“蒸馏攻击”的演变过程，分析了其技术原理、规模化实现方式以及引发的伦理与竞争争议。通过访谈多位研究员，文章揭示了蒸馏并非简单的复制，而是涉及复杂系统工程，且不构成长期壁垒。同时，文章也讨论了蒸馏与数据飞轮的关系，以及行业对黑盒与白盒蒸馏的不同态度，呈现了这项技术背后的商业、伦理与竞争图景。
