本文系统梳理了模型微调的核心概念与术语。作者首先解释了微调的意义：在预训练模型基础上，用任务相关数据继续训练，使模型更适应特定表达、任务或指令，减少幻觉。随后从五个层面展开：模型训练阶段（预训练、基础模型、后训练、微调）；训练原理（SFT、指令微调、下一个token预测）；训练框架与工具（PyTorch、容器、训练方案）；LoRA相关技术（PEFT、QLoRA、rank、alpha、target modules）；数据与训练参数（语料、数据集、batch size、学习率、过拟合、eval loss等）。文章以DGX Spark本地微调Gemma为例，帮助读者理解微调全流程。
本文从“模式”（一列乘一行的秩1矩阵）概念出发，系统讲解 LoRA 与 QLoRA 如何降低大模型微调的显存开销。LoRA 通过低秩近似冻结原有权重，只训练少量新增模式（B·A），将可训练参数减少到约万分之一；量化则用 4 位 NF4 格式配合分块缩放和双重量化存储权重，保留全部模式但降低每个数的精度。QLoRA 结合两者：冻结权重用 4 位存储，LoRA 分支用 16 位训练，使 65B 模型只需一块 48GB GPU 即可微调，Guanaco 在 Vicuna 评测中达到 ChatGPT 的 99.3%。文中还比较了低秩近似与量化误差结构的不同，并给出 7B 模型显存估算：全参数微调约 100GB，LoRA 约 15GB，QLoRA 约 5GB。
本文是后训练系列第二篇，介绍指令微调（SFT）。以斯坦福 Alpaca 用 52,000 条自动生成的数据微调 LLaMA 7B 为例，说明指令微调与预训练使用相同的下一个 token 预测损失，但数据和任务不同。文章详细讲解训练五步骤：收集、格式化、掩码、训练、评测，并通过 LIMA 和 FLAN 研究说明指令微调主要改变模型行为方式而非增加知识，少量数据即可泛化到新任务。还介绍了损失掩码原理、位置错开的实现细节、指令数据的三种来源及其局限：无法补充知识、比较回答优劣或检验正确性。
文章以 GPT-3 与 InstructGPT 对比为例，解释为什么预训练只教会模型'猜下一个词'，却不能让它听指令、保证安全、做长链推理，因此需要后训练来弥补目标差距。文章对比了预训练与后训练在目标、数据、信号、成本和改动幅度上的差异，并系统介绍了三种后训练技术：指令微调（跟示范学）、偏好对齐（RLHF/DPO，靠比较学）、RLVR（由可验证检查器判对错）。全文用通俗类比讲清后训练的原理，是后训练系列文章的第一篇。
作者 nkthebass 从零训练了一个 348M 参数的 decoder-only 小模型 TinyBrainBot 350M V3 Math，用带纸笔（scratchpad）的竖式算术方式做计算。九项 GPT-3 算术子任务均值达 99.4%，加法干净做到 14 位，三位数乘法 98.0%。文章详细分析了首版三个缺陷的修复过程、加法天花板源于词表位名不足、减法错误集中在大小比较、应用题弱与算术高分不矛盾等发现，并分享了训练中关于联合分布控制和显式对齐步骤两个关键经验，以及 LoRA adapter 合并的意外收益。
本文探讨了AI Agent的“自进化”能力，指出若训练数据包含过期或错误的历史信息，模型会越学越错。作者以Alloomi公司的两份技术报告为例，介绍了Holistic Context如何通过实体归因、时间线和关系学习清理混乱的工作历史，以及Self-Evolving Agent如何通过质量过滤、LoRA微调、跨任务回放和稀疏权重单元（Engram X）将整理后的经验安全地融入模型。实验显示，在CL-Bench上，完整SEA机制比无记忆基线提升26.1个百分点。文章强调，AI公司的下一道分水岭在于能否构建受控的经验积累与更新链路，而非单纯扩大上下文窗口。
作者详细记录了从零开始训练一个专属人物 LoRA 的完整实战流程。他使用 GPT Image 2 生成 56 张虚构人物训练数据，基于开源模型 MOSS-Image（5B 参数 Diffusion Transformer）进行微调，仅用一张 RTX 4090 训练约 65 分钟即获得稳定的人物形象生成能力。文章涵盖数据准备、Caption 标注、Checkpoint 选择、效果验收等关键环节，并指出了过拟合等常见问题。作者将整个流程开源到 GitHub，提供运行环境镜像、Jupyter Notebook 和 ComfyUI 工作流，建议初学者亲手跑一遍以真正理解 LoRA 训练原理，一通百通。
Sebastian Raschka 公开了一套完整课程《Building Reasoning Models from the Ground Up》，包含 8 节视频、11+ 小时内容，基于 Qwen3 0.6B 小模型，用 Python + PyTorch 实现现代推理模型的关键技术，包括 Inference-Time Scaling、Verifier、GRPO 强化学习、KL/Clipping 训练稳定性控制、Reward Hacking 以及基于 DeepSeek-R1 数据的推理蒸馏。课程让学习者可以亲手运行训练循环，观察模型生成推理路径、根据奖励更新参数的全过程，大幅降低了理解推理模型的门槛，使推理模型训练从少数实验室技术变为可动手验证的工程知识。
《从零构建大模型》作者 Sebastian Raschka 推出 8 集共 11 小时的免费视频课，配合新书《从零构建推理模型》，教你用 PyTorch 基于 Qwen3 0.6B 从零实现推理模型。课程内容涵盖 KV cache、数学答案验证器、self-consistency 多数投票、自我修正、简化版 GRPO（RLVR）训练、reward hacking 以及 DeepSeek R1 蒸馏。前几集 CPU 或 Mac Apple 芯片即可运行，只需会 Python 和 PyTorch 即可直接学习。视频与代码仓库均已开源。
本文是 Agent 高频面试题详解系列第 4 题，系统讲解 Agent 效果评测体系。文章基于 64 场面试面经分析，归纳出评测追问的八个方向，并结合 Anthropic、OpenAI 等实践经验展开：先明确评什么（Agent 评测难在结果在环境状态中、路径不唯一、结果不确定）；评测集怎么建（题目来自真实失败、业务方、合成数据，注意分层、防泄露与防过拟合）；谁来打分（代码判分、模型判分、人工判分三种方式的取舍，LLM-as-a-Judge 的位置偏差、冗长偏差等已知问题及校准方法）；以及如何通过基线对比、多次运行排除随机性，证明改进真实有效。文章强调评的是 Harness 和模型的整体，判结果而非规定路径。
作者分享了 Linux 下使用 gpu-unlock 项目解锁 NVIDIA 显卡 Tensor Core 算力限制的实践。该项目通过在驱动加载前修改控制运算速度的寄存器，解除 FP16/BF16 输入、FP32 累加运算的限速。作者在 RTX 4070 Ti SUPER 上用 Codex 辅助完成兼容性检查、编译模块、创建实验启动项和断电重启等步骤，实测 8192×8192 矩阵 FP16 乘法耗时从 12.15ms 降至 6.49ms，吞吐接近翻倍至约 190 TFLOPS，且数值校验通过。社区反馈该解锁可使本地大模型 prefill 提速 30%–50%，decode 速度基本不变。
作者实测了国内首个原生Personal Agent产品Today，该产品获得腾讯和蚂蚁集团投资的2亿美元融资，新用户注册可获3亿token和3个月Pro会员。文章详细介绍了Today的下载安装、设置页面的模型（内置DeepSeek V4.1 Flash和GLM 5.3）、应用连接、设备连接、Skill技能等功能，并演示了改名、任务创建、记忆构建、做梦写日记与灵感等特色功能。作者强调Personal Agent的好用性在于给足上下文，让AI主动理解用户、安排任务，是AI从被动执行走向主动服务的关键。
文章介绍了一种简单易上手的AI视频玩法：上传一张图片加一条指令，即可生成360°环绕（Bullet Time）效果的视频。作者展示了旅游、美食、美妆、商业摄影、产品展示、服装穿搭等多个应用场景及商业潜力。实现方法分为两种：一是免部署的Web端方案，使用豆包等可生成视频的模型，配合文中提供的通用短指令和完整10秒详细指令；二是适合进阶用户的ComfyUI本地部署方案，通过加载MiniMax H3 I2V模板和360° Orbit LoRA实现。作者以设计师视角分享了最低门槛、可复用的AI玩法。
