文章介绍如何在单张 GPU 上高效服务大量 LoRA 微调模型。将适配器合并进基座会为每个变体生成 15.2GB 的完整模型副本，而分开保存适配器只需约 40MB，共享基座后 100 个变体仅占 19.3GB。作者对比了四种部署形态（合并独立 endpoint、启动时注册、请求时解析、托管按租户），并在 Runpod 上用 Qwen 1.5B 训练三个 LoRA 适配器做实验。结果显示共享 endpoint 复用 worker 池，显著减少冷启动与显存浪费；同时强调应分开记录等待时间与执行时间，并通过镜像缓存优化冷启动延迟。
本文解读 Fireworks AI 官方 Training API Cookbook 中一篇实战教程，讲解如何结合 HUD 框架与 Fireworks Serverless Training API，在无本地 GPU 条件下用 GRPO 风格强化学习微调 LoRA 适配器。文章详细拆解了四步工作流程：环境配置、任务校准、单步训练和长跑训练，重点阐释了快照隔离、trace 记录、loss masking、组内优势归一化等核心训练机制。实验结果显示四位数乘法任务准确率从 78.1% 提升至 98.4%，但作者指出收益主要来自输出格式和自我节制的优化，而非深层算术能力的提升。文章还提醒了 checkpoint 语义区分等实操要点，并对教程的严谨设计给予高度评价。
文章指出AI竞争已从模型本身转向基础设施，尤其是推理优化。作者分析了为何推理Infra是模型商业化的生命线，以及“新云”如何通过提供专用AI算力成为行业关键，并强调未来的AI竞争将一半在模型，一半在Infra。
作者以自己半个月赚取超 1000 美元推特创作者收益的经历，整理出 20 个高频问题，系统讲解 X 创作者收益计划的申请与运营全流程。内容涵盖申请门槛（蓝 V、500 认证粉、90 天约 50 万首页合格曝光）、收益计算规则（仅蓝 V 用户首页曝光计入、原创才有收益）、国内用户绑定港卡收款的经验、提现流程、账号冷启动与涨粉技巧，以及买量、AI 批量发帖等违规风险提示。文章强调原创内容与稳定输出的重要性，适合想通过推特内容变现的新手参考。
作者详细记录了从零开始训练一个专属人物 LoRA 的完整实战流程。他使用 GPT Image 2 生成 56 张虚构人物训练数据，基于开源模型 MOSS-Image（5B 参数 Diffusion Transformer）进行微调，仅用一张 RTX 4090 训练约 65 分钟即获得稳定的人物形象生成能力。文章涵盖数据准备、Caption 标注、Checkpoint 选择、效果验收等关键环节，并指出了过拟合等常见问题。作者将整个流程开源到 GitHub，提供运行环境镜像、Jupyter Notebook 和 ComfyUI 工作流，建议初学者亲手跑一遍以真正理解 LoRA 训练原理，一通百通。
文章指出当前编码 Agent 在简单决策（如选择加载哪些笔记、任务路由、工具失败处理、测试优先级）上滥用昂贵的前沿大模型，造成成本浪费。作者提出三层架构：Opus 5.5 负责规划、写代码、调试等开放性推理；Jev（TypeSafe 出品，毫秒级响应、输入 $0.042/百万 token、输出免费）负责从固定选项中做小决策并返回概率；Harness 层构建选项、校验概率阈值并在低置信度时回退到 Opus。文章给出四个具体决策点及代码实现：按标题分块并用 Jev 并行评分筛选相关笔记（将 30k token 降至 6k）、任务路由、工具失败处理、测试优先级选择。实测一个功能开发会话成本从 $6.42 降至 $2.00，降低 69%，且架构可作为函数调用插入现有 Agent 循环，无需重写。
文章介绍如何在OpenAI发布Dots常驻Agent和GPT-6 Astra（百万token记忆）后，搭建一个24/7自主运行的AI工作流。核心难题是常驻Agent会高频产生大量简单决策，用前沿模型成本高昂。解决方案是TypeSafe推出的System One模型Jev：它只能输出结构化决策（是/否、选择、评分）并附带置信度，单价仅$0.042/百万token，使百万次决策成本约$42。文章展示了将Jev作为低层决策器、Astra作为高阶思考引擎的组合架构，让独立开发者从写代码转变为定义任务、设限并审核产出的监督者角色。
文章介绍了 Anthropic 发布的 Claude Opus 5.5 模型，其性能达到 Fable 5.1 水平但运行成本低 40%，尤其在长时间自主任务中表现突出。作者指出动效设计、Harness 工程和循环工程三者实为一个完整技术栈，并以五部分结构展开讲解：模型本身的基准数据与定价、如何用它做纯代码驱动的动效/动画创作、让输出可靠化的 Harness 工程、让 Agent 持续自主工作的循环机制，以及如何用单个模型串联整个工作流。文章强调缓存读取降价 60% 使长循环成本可控，并列举了大规模代码迁移、翻译 HAProxy 等实际案例。
本文详细介绍如何利用Grok Bot（SpaceXAI的代理产品）以每月30美元的成本运营单人公司，替代传统8人团队的大部分重复性工作。作者提供了完整课程，包括创建公司手册、设置Chief of Staff Bot协调多个专业机器人（研究、内容、销售、支持、财务、开发），并建立审批规则确保安全。核心方法是将决策权保留给人类，将重复性任务分配给AI代理，通过每日和每周节奏管理整个公司，同时控制成本在预算内。
本文从“模式”（一列乘一行的秩1矩阵）概念出发，系统讲解 LoRA 与 QLoRA 如何降低大模型微调的显存开销。LoRA 通过低秩近似冻结原有权重，只训练少量新增模式（B·A），将可训练参数减少到约万分之一；量化则用 4 位 NF4 格式配合分块缩放和双重量化存储权重，保留全部模式但降低每个数的精度。QLoRA 结合两者：冻结权重用 4 位存储，LoRA 分支用 16 位训练，使 65B 模型只需一块 48GB GPU 即可微调，Guanaco 在 Vicuna 评测中达到 ChatGPT 的 99.3%。文中还比较了低秩近似与量化误差结构的不同，并给出 7B 模型显存估算：全参数微调约 100GB，LoRA 约 15GB，QLoRA 约 5GB。
作者用 Grok Bot 分析了 70 篇中文圈的推特涨粉经验帖，整理出适合新手的 10 步起号指南。核心公式是“涨粉 = 曝光 × 关注转化率”。文章涵盖主页装修（头像、昵称、四要素简介）、定位方法（三圈交集）、开蓝V、写起号帖、借力冷启动、算法机制拆解、内容创作技巧、发文节奏、封号红线及变现路径（创作者收益、商单、联盟推广），并附新手 30 天行动清单，强调前 500 粉只管内容、稳定发帖和保持人味。
Cerebras 团队详细介绍了如何在 WSE-3T 晶圆级芯片上部署万亿参数大模型。以 3 万亿参数的开源模型 Kimi K3 为例，团队通过 4-bit 权重量化和 8-bit KV 缓存计算每层约 16 GB 的显存需求，将模型切分到 59 片晶圆上：每个 dense 层独占一片晶圆，每片可放两个 linear-attention 层。晶圆间通过以太网 RDMA 传递激活值，权重无需移动。系统以流水线方式运行，各阶段可同时处理不同请求和微批次，从而实现 1000-2000+ tokens/秒的推理速度。
本文是后训练系列第二篇，介绍指令微调（SFT）。以斯坦福 Alpaca 用 52,000 条自动生成的数据微调 LLaMA 7B 为例，说明指令微调与预训练使用相同的下一个 token 预测损失，但数据和任务不同。文章详细讲解训练五步骤：收集、格式化、掩码、训练、评测，并通过 LIMA 和 FLAN 研究说明指令微调主要改变模型行为方式而非增加知识，少量数据即可泛化到新任务。还介绍了损失掩码原理、位置错开的实现细节、指令数据的三种来源及其局限：无法补充知识、比较回答优劣或检验正确性。
