12个真正值得长期读的AI/LLM博客
文章推荐了12个值得长期关注的AI与LLM博客，涵盖了研究综述、模型原理、工程实践、可视化学习及前沿趋势。作者强调深入理解AI的重要性，并精选了Lilian Weng、Sebastian Raschka等博主，帮助读者建立系统化的AI认知。
相关文档
The GitHub Map: A Working Catalogue of Repositories for AI, Engineering, and Graph Engineering
本文旨在解决GitHub上海量AI仓库的导航难题，为AI工程师提供一份经过验证的仓库地图。文章按实际工作流程组织，从基础原理学习（如micrograd、nanoGPT）、本地模型运行（llama.cpp、ollama、vLLM）到图工程等专业领域，逐一介绍关键仓库，并强调许可证、入门成本和贡献机会等实用信息。
Karpathy GitHub 上最重要的 5 个仓库：从零学习 AI 基础
本文介绍了 Andrej Karpathy 的 GitHub 上五个最具教育价值的仓库：micrograd、nanoGPT、minGPT、llm.c 和 nanochat。这些仓库以极简和清晰著称，帮助学习者从零理解神经网络、反向传播、GPT 架构、底层实现和完整的 LLM 系统。文章强调了主动学习的重要性，并提供了实践学习路径，帮助读者从基础原理到实际应用建立直觉。
Math Behind Large Language Model
本文介绍了大语言模型背后的数学原理，涵盖Attention机制、缩放因子、反向传播、梯度下降、交叉熵损失、RoPE位置编码和RMSNorm归一化等核心概念。
从零到 AI 工程师——没人真正讲清楚的路线图
本文为 AI 初学者提供了一份为期 14 周的实战路线图，旨在通过免费资源将新手培养成具备构建生产级 AI 系统能力的工程师。路线图包含六个阶段：环境搭建、AI 基础、机器学习基础、深度学习、现代 LLM 工程以及 Agent 与部署。文章强调动手实践，推荐了 OpenAI、Anthropic 官方教程及 GitHub 优质开源仓库，帮助学习者避开盲目刷证书的误区，真正掌握 AI 开发技能。
Zero to AI Engineer — The Roadmap Nobody Explains Properly
本文提供了一个为期14周的实战型AI工程师学习路线图，旨在解决初学者“只学不做”的困境。文章从环境搭建开始，详细列出了从AI基础、机器学习、深度学习到现代LLM工程及Agent开发的最佳免费资源（如OpenAI/Anthropic官方课程、Karpathy的教程等）。路线强调通过GitHub项目实践来理解原理，最终掌握部署与评估技能，真正从零开始构建可用的AI系统。
LoRA - LLMs 的低秩适配详解
文章详细介绍了 LoRA (Low-Rank Adaptation) 技术，这是一种用于高效微调大型语言模型的方法。通过冻结原始权重并学习两个极小的低秩矩阵，LoRA 能够在保持模型性能的同时，大幅降低显存占用、训练成本和存储空间。文章还解释了 LoRA 的核心数学原理、具体实施步骤以及为何全量微调成本高昂的原因。
RLMs are the new reasoning models
本文探讨了递归语言模型作为一种新的推理范式的重要性。RLM 通过将模型自己的提示视为可检查、切片和递归查询的环境，直接结合了推理和工具使用。文章回顾了推理和工具使用的历史发展，从思维链到 ReAct，再到 OpenAI o1 和 Claude 的工具使用。最新研究显示，RLM 在长上下文、记忆和长推理任务中表现出色，克服了传统单次前向传播的局限。
图解 Transformer 架构：从原理到细节的全面解析
本文深入浅出地解析了 Transformer 架构，它是现代大语言模型（LLM）的核心。文章从宏观视角出发，通过解码的方式，逐一拆解了 Transformer 的关键组件，包括编码器与解码器、分词与嵌入、位置编码、注意力机制（Attention）以及多头注意力等。作者详细解释了该架构如何解决传统模型的“遗忘”和“慢速”问题，实现了并行处理和长距离依赖捕捉，并最后阐述了其强大的原因。
如何成为一名机器学习工程师：完全指南
本文是一份详细的机器学习（ML）工程师学习路径指南。作者首先纠正了被动观看视频的学习误区，提出“两遍学习法”以建立深刻的技术理解。文章明确了ML工程师与数据科学家及研究员的区别，强调工程实现能力。随后，作者将学习路径分为两个阶段：第一阶段利用 3Blue1Brown 的视频构建数学直觉，涵盖神经网络、梯度下降、反向传播及 Transformer 架构；第二阶段（文中截断处未完）预告将通过 Andrej Karpathy 的课程来提升代码实现能力。
斯坦福 AI & ML 课程清单：从入门到大模型
本文列举了斯坦福大学关于人工智能与机器学习的 10 门顶级课程，涵盖了人工智能基础、机器学习、深度学习、强化学习、自然语言处理（NLP）、计算机视觉（CV）、大语言模型（LLMs）及深度生成模型等核心领域，旨在帮助学习者掌握 AI 第一性原理。
Ilya 推荐的 30 篇 AI 论文清单：30u30 拆解学习项目
Ilya 曾推荐一份包含 30 篇论文的 AI 学习清单，称读懂即可掌握当下 AI 90% 的要点。30u30 项目将这份清单拆成 30 天课程，一天一篇，从 RNN、LSTM 学到 Transformer，最终到 ChatGPT 背后的 RLHF。每篇配有大白话讲解、'讲给 5 岁小孩听'的速览、从零实现的代码及配图，每天还附 5 道练习题。代码可在普通电脑 CPU 上运行，适合想转 AI 方向的学生或想理解 ChatGPT 原理的用户跟随学习。
免费的AI课程全指南：350+课程、5000+讲座替代你的学位
作者因厌倦在YouTube、Google和大学网站间费力搜寻AI学习资源，整理了一份完全免费的AI课程大全，涵盖350多门课程和5000多个讲座。内容按主题分类，包括深度学习、机器学习基础、优化、强化学习、概率图模型、贝叶斯深度学习、医学影像、图神经网络、NLP、语音识别、计算机视觉等14个方向。课程来源包括Geoffrey Hinton、Andrew Ng、Andrej Karpathy、Richard Socher等名师在多伦多大学、斯坦福、牛津、MIT、CMU、DeepMind等机构的经典课程，并附有课件和视频链接。
