斯坦福大学 CS336 公开课「从零构建语言模型」：18 讲完整视频 · 作业开源 · 零成本自学
本文介绍斯坦福大学 2026 春季研究生课程 CS336「从零构建语言模型」。该课程由 Hashimoto 和 Liang 教授讲授，工程量极大，学生需亲手实现 tokenizer、模型、FlashAttention2 内核及分布式训练。内容覆盖 LLM 全生命周期：模型架构、系统优化（GPU/内核/并行）、Scaling Laws、数据处理、推理评估及后训练对齐（含 RLVR）。五次编程作业串起从原始数据到可对话模型的完整生产流程。目前 18 讲视频与作业已全部公开，是自学者系统补齐 LLM 工程能力的稀缺资源，但要求扎实的 PyTorch 与体系结构基础。
