🏷️ SFT

如何教授 AI 模型

文章通过人类学习的类比，通俗易懂地解释了 AI 模型如何学习新技能和行为。它涵盖了从预训练、监督微调到强化学习的三个阶段，以及通过基准测试评估模型和通过模型规范对齐模型行为的重要性，最后指出了当前模型在持续学习方面的局限性。

使用 Fireworks Agent 自动化 LLM 微调全流程

本文介绍了如何利用 Fireworks Agent 实现 LLM 微调（SFT）的全自动化。文章以 Andrej Karpathy 的“个人 LLM Wiki”理念为引，阐述了将知识注入模型权重比单纯依赖上下文窗口更高效。通过 Fireworks Agent，作者展示了从数据集检查、超参数搜索、模型训练到部署推理的完整闭环，无需人工干预繁琐步骤，仅需少量 GPU 时间和极低成本，即可训练出具有特定输出风格（如 Wiki 摘要风格）的模型，为构建自我进化的 Agent 铺平了道路。

SFT、RL 与 On-Policy 蒸馏：原理与差异

本文深入探讨了模型后训练中的 SFT 与 RL 流程，重点分析了基于同族模型（Same-family）的 On-Policy 蒸馏（OPD）技术。文章解释了 SFT 存在性能天花板的原因，以及 RL 如何通过复利效应突破这一限制。作者指出 OPD 结合了 SFT 的低成本和 RL 的复合优势，能高效利用教师模型的反向 KL 散度信号，是实现高性能模型微调的关键手段。