RLMs are the new reasoning models
本文探讨了递归语言模型作为一种新的推理范式的重要性。RLM 通过将模型自己的提示视为可检查、切片和递归查询的环境，直接结合了推理和工具使用。文章回顾了推理和工具使用的历史发展，从思维链到 ReAct，再到 OpenAI o1 和 Claude 的工具使用。最新研究显示，RLM 在长上下文、记忆和长推理任务中表现出色，克服了传统单次前向传播的局限。
相关文档
Harness 是组合泛化器
本文介绍 Alex L. Zhang 与 Omar Khattab 提出的观点：Transformer 不擅长组合泛化，而更好的泛化应主要由 harness 完成。Harness 位于外部世界与神经网络之间，通过 context offloading（上下文卸载）和程序化子 agent 调用两个机制，让每次 LM 调用看到的观察处于训练分布内（LID），把复杂、陌生的问题归约为简单、熟悉的问题。实验基于 Qwen3-30B 的递归语言模型（RLM）显示在长度泛化和跨域策略泛化上远胜裸 Transformer，30B RLM 甚至可逼近 GPT-5.5。作者提醒不要手工硬编码 harness 结构，数据 scaling 仍是最大驱动力，但 harness 决定 scaling 系数。
MIT 多模态 AI 课程 2026 版全套上线：视频免费在线学
MIT 由 Paul Liang 主讲的《How to AI (Almost) Anything / Multimodal AI》2026 春季课程全套视频免费上线。课程涵盖多模态学习完整技术栈：异构数据表示与融合、跨模态对齐、多模态生成、推理（RLHF、DeepSeek-R1、DPO）、智能体、跨模态迁移，以及触觉、嗅觉等新模态与自进化 AI 等前沿方向。相比 2025 版，新增多模态推理、智能体、自进化 AI 模块及制造、城市、交通等应用课。适合有机器学习基础的学习者系统建立多模态 AI 知识框架，课程网站与 YouTube 播放列表均可免费访问。
AI 的演进：从规则执行到自主行动
文章系统梳理了人工智能从1950年代至今的发展历程：萌芽探索期（图灵之问与达特茅斯会议）、知识驱动期（符号主义与专家系统）、统计学习期（机器学习与特征工程）、深度学习突破期（AlexNet与神经网络）、大模型时代（Transformer、GPT-3、ChatGPT与多模态）。作者指出AI处理信息的方式从人类编写规则，到机器从数据中学习，再到模型理解目标并自主完成任务。未来AI将从大模型走向智能体（Agent），能够拆解任务、制定计划、调用工具，实现从被动响应到自主行动的转变。
12个真正值得长期读的AI/LLM博客
文章推荐了12个值得长期关注的AI与LLM博客，涵盖了研究综述、模型原理、工程实践、可视化学习及前沿趋势。作者强调深入理解AI的重要性，并精选了Lilian Weng、Sebastian Raschka等博主，帮助读者建立系统化的AI认知。
Math Behind Large Language Model
本文介绍了大语言模型背后的数学原理，涵盖Attention机制、缩放因子、反向传播、梯度下降、交叉熵损失、RoPE位置编码和RMSNorm归一化等核心概念。
How to Build LLM Architectures From Scratch
本文是一篇关于从零构建大型语言模型（LLM）架构的深度指南。文章详细解释了 LLM 的工作原理，包括从原始数据收集、清洗、分词，到 Transformer 架构的核心组件（如自注意力机制、位置编码）。同时涵盖了预训练、微调、基于人类反馈的强化学习（RLHF）以及推理优化等关键技术环节，旨在帮助读者理解 ChatGPT 和 Claude 等模型背后的系统构建全流程。
2026年你必须理解的20个AI核心概念
文章通俗易懂地解释了现代AI的基础原理，涵盖神经网络、Token化、Embeddings、注意力机制及Transformers架构。深入探讨了LLM的工作原理，如上下文窗口、温度控制和幻觉问题，并讲解了提示词工程技巧。
从零到 AI 工程师——没人真正讲清楚的路线图
本文为 AI 初学者提供了一份为期 14 周的实战路线图，旨在通过免费资源将新手培养成具备构建生产级 AI 系统能力的工程师。路线图包含六个阶段：环境搭建、AI 基础、机器学习基础、深度学习、现代 LLM 工程以及 Agent 与部署。文章强调动手实践，推荐了 OpenAI、Anthropic 官方教程及 GitHub 优质开源仓库，帮助学习者避开盲目刷证书的误区，真正掌握 AI 开发技能。
Zero to AI Engineer — The Roadmap Nobody Explains Properly
本文提供了一个为期14周的实战型AI工程师学习路线图，旨在解决初学者“只学不做”的困境。文章从环境搭建开始，详细列出了从AI基础、机器学习、深度学习到现代LLM工程及Agent开发的最佳免费资源（如OpenAI/Anthropic官方课程、Karpathy的教程等）。路线强调通过GitHub项目实践来理解原理，最终掌握部署与评估技能，真正从零开始构建可用的AI系统。
LoRA - LLMs 的低秩适配详解
文章详细介绍了 LoRA (Low-Rank Adaptation) 技术，这是一种用于高效微调大型语言模型的方法。通过冻结原始权重并学习两个极小的低秩矩阵，LoRA 能够在保持模型性能的同时，大幅降低显存占用、训练成本和存储空间。文章还解释了 LoRA 的核心数学原理、具体实施步骤以及为何全量微调成本高昂的原因。
SFT、RL 与 On-Policy 蒸馏：原理与差异
本文深入探讨了模型后训练中的 SFT 与 RL 流程，重点分析了基于同族模型（Same-family）的 On-Policy 蒸馏（OPD）技术。文章解释了 SFT 存在性能天花板的原因，以及 RL 如何通过复利效应突破这一限制。作者指出 OPD 结合了 SFT 的低成本和 RL 的复合优势，能高效利用教师模型的反向 KL 散度信号，是实现高性能模型微调的关键手段。
谢赛宁对LLM的判断：从Sora关停到世界模型的崛起
文章从OpenAI关停Sora切入，深入探讨了Sora核心架构DiT创造者谢赛宁对大语言模型（LLM）的根本性质疑。谢赛宁认为LLM只是在模仿语言的统计规律，而非理解世界，语言是“鸦片”。文章详细阐述了基于抽象表征空间的预测架构（JEPA）和世界模型才是通往通用智能的正确路径，并指出未来的AI架构中，LLM将退化为仅用于交流的界面，而表征层才是真正的基石。
