你不知道的大模型训练：原理、路径与新实践
本文深入探讨了大模型训练的全链路流程，指出2026年模型效果的差距主要源于后训练阶段。文章从预训练底座、数据配方、系统架构约束、后训练（SFT/RLHF/DPO）以及 Eval/Reward 机制五个维度，解析了如何通过工程化手段提升模型实际落地效果，并引用了 DeepSeek、Llama 等实例。
相关文档
预训练之后，为什么还要后训练？
文章以 GPT-3 与 InstructGPT 对比为例，解释为什么预训练只教会模型'猜下一个词'，却不能让它听指令、保证安全、做长链推理，因此需要后训练来弥补目标差距。文章对比了预训练与后训练在目标、数据、信号、成本和改动幅度上的差异，并系统介绍了三种后训练技术：指令微调（跟示范学）、偏好对齐（RLHF/DPO，靠比较学）、RLVR（由可验证检查器判对错）。全文用通俗类比讲清后训练的原理，是后训练系列文章的第一篇。
NYU 13周研究生课：LLM推理时代的前沿全景
文章介绍了NYU Tandon 2026年秋季由Anthropic研究员Pavel Izmailov开设的研究生课程《Language Models, Reinforcement Learning, Reasoning》。课程共13周，除Sutton & Barto教材外全部使用原始论文，沿「预训练→架构与训练效率→后训练RL→对齐与安全→前沿与未来」的主线展开，涵盖Attention机制、扩展律、Muon优化器、RLHF、GRPO与RLVR、奖励过优化、可扩展监督以及世界模型等前沿主题。文章分析了课程叙事逻辑，指出RL重回舞台中心、中国实验室工作成为正典、安全对齐被当作工程学科等趋势，并给出自学者建议。
中关村学院 3 个月从零训练 7B SOTA 模型的启示
作者评述中关村学院何纪言老师带领 7 位博士生用 3 个月从预训练、中训练到后训练完全自主训练出 7B 模型并达到 SOTA 水平。文章提出三点观察：一是当前模型能力远未到全自主程度，在架构设计、算法设计等方面仅达 L2 辅助水平；二是模型训练会者不难，MiMo V2.6 RL 仅花 300 多万美金即达高水平，说明关键是人才而非算力堆砌；三是数据是新的代码，数据质量如同代码质量一样重要，该模型在数据清洗、课程学习、上下文扩增和 RL 优化上做了深入工作。
读懂大模型｜别怕，大模型的本质就是一个函数
文章以 DeepSeek 开源的 V4-Flash-Vision-Exp 为例，深入浅出地讲解大模型的本质：一个做矩阵运算的超大函数。作者介绍了模型文件结构（权重分片、config.json、tokenizer.json），并详细解析输入输出处理流程，包括文本分词、BPE 算法、Embedding、MoE 混合专家架构、概率性输出与自回归生成机制。此外还逐项解读了核心参数，如词表大小、网络层数、注意力头数、YaRN 长上下文伸缩、视觉模块和 FP8/FP4 低精度量化等，帮助读者建立对大模型原理的整体认知。
蒸馏风暴：AI 公司不愿公开谈论的技术竞赛
本文深入探讨了 AI 领域中备受争议的“蒸馏”技术。文章追溯了蒸馏从最初的模型压缩方法到如今被用于“蒸馏攻击”的演变过程，分析了其技术原理、规模化实现方式以及引发的伦理与竞争争议。通过访谈多位研究员，文章揭示了蒸馏并非简单的复制，而是涉及复杂系统工程，且不构成长期壁垒。同时，文章也讨论了蒸馏与数据飞轮的关系，以及行业对黑盒与白盒蒸馏的不同态度，呈现了这项技术背后的商业、伦理与竞争图景。
DeepSeek 的 10 万亿美元大战略：技术、算力与国产芯片的未来
本文深入分析了 DeepSeek 如何通过 MLA、MoE、mHC 等一系列底层技术创新，极大幅度降低大模型对 HBM（高带宽内存）和先进 GPU 制程的依赖。文章指出，DeepSeek 的战略并非局限于软件订阅，而是旨在通过算法优化盘活中国产能充足的 NAND 闪存和 LPDDR 产业，以此构建一套独立于西方之外的 AI 硬件生态，最终撬动价值 10 万亿美元的产业巨兽。
顶级AI实验室如何构建RL智能体：从RLHF到RULER的演进
文章探讨了 Anthropic、OpenAI 和 DeepSeek 等顶尖 AI 实验室在 2026 年关于强化学习（RL）的趋同思路，即使用系统提示作为奖励函数。内容详细梳理了 RL 在 LLM 中的应用历程，从 RLHF 到 RULER（Karpathy 提出的系统提示学习概念）的演变。重点介绍了 DeepSeek R1 利用可验证奖励（RLVR）突破传统瓶颈的机制，通过规则编译器直接提供信号，并结合 GRPO 算法移除了复杂的 Critic 和奖励模型，实现了从 15.6% 到 77.9% 的 AIME 数学成绩飞跃。
推理是训练的 12 倍，可一块卡生成时只跑出 5% 的算力
文章基于 YC Paper Club 播客，剖析 LLM 推理成本真相：按两年模型寿命摊算，推理总算力约为训练的 12 倍。decode 阶段 MFU 仅 5%，瓶颈在显存带宽而非算力。DeepSeek 通过 KV cache 保留 72 小时、radix attention、零开销调度等手段将缓存命中率做到 96%，实现 38 美元一卡时、80% 毛利。文章还讨论了 SSM 等被低估的模型结构、服务商质量参差（同一模型不同服务商差距超开源闭源差距）以及开源推理生态的规模，指出推理成本优化才是 LLM 竞争的胜负手。
DeepSeek V4.1 Flash 大规模推理部署实践
文章介绍 DeepSeek V4.1 Flash 大规模推理系统的部署实践与开源推理框架 DeepInfer。系统设定三大目标：兼容多厂商计算芯片、基于通用硬件组织 Prefill 与 Decode（8 卡机 Prefill、64-128 卡超节点 Decode）、支持 KVCache 保留 72 小时以上以实现上下文复用、减少冗余计算。团队通过在计算、通信、调度与存储上的持续优化，在满足延迟要求下提升有效吞吐。DeepInfer 集成高性能算子与深度优化推理引擎，支持分布式推理、投机解码、SWA Bounded Replay 和结构化输出等能力。目前单集群服务吞吐达每天 155 万亿 tokens，整体收入为每卡每小时 38 美元（按低谷价格计）。
2026 普通人学 AI 路线图：6 个阶段、50+ 免费资源，照着抄 30 天入门
文章针对普通人收藏大量 AI 教程却始终没学会的问题，提出按可上手顺序排列的六阶段学习路线：先搞懂大模型、Agent、MCP、Skill 四个基础概念；再学会高效提问；然后选一个通用 AI 助手用熟；之后分创作者路线（做图、视频、语音）和开发者路线（MCP 与 Agent 开发）深入；最后选读书籍论文进阶。作者强调'卡住你的不是资源不够，而是顺序不对'，并附上 30 天打卡表、53 个免费资源和五个避坑建议，倡导边用边学、动手实践。
同样 10 美元，OpenCode Go 和 Command Code GOAT 选哪个？基于 6 万多条记录的实测对比
作者将 OpenCode Go 和 Command Code GOAT 两个 10 美元/月的套餐接入自己的 Sub2API 网关，基于 64,648 条使用记录和小规模质量测试进行实测对比。两者月额度均为 80 美元，OpenCode 短时额度更大（5 小时 16 美元、周 40 美元），GOAT 为 14/35 美元。在相近规模流式请求中 GOAT 耗时中位数和 P95 更短，400 错误也显著更少。结论：接自己的 Agent 或通用 API 客户端优先 GOAT；用于兼容的 coding agent 且集中跑任务则选 OpenCode Go。文章还讨论了处理费、高峰定价、参数兼容问题和模型是否量化等细节。
DeepSeek V4.1 Flash 1017 实测：性能更强、费用更低的一次升级
DeepSeek 于 10 月 17 日发布 V4.1-Flash-1017 版本，AI 编程跑分显著提升，DeepSWE 达 77.0 超越 Claude Opus 5，任务平均费用降至原来的三分之一。作者使用 DeepSeek Harness 实测四个项目：3D 城市生成器对比显示新版的重庆、西安等地标建筑辨识度大幅提升，耗时从 102 分钟降至 61 分钟；许愿式编程能快速产出 3D 地铁跑酷游戏和天坛祈年殿建模；基于新开放的 Search/Fetch 接口开发的 AI 搜索引擎完成度很高。总花费仅 12.81 元，性价比突出，是一次实打实的帕累托改进。
