训练小模型：2026 年最被低估的 AI 技能
本文探讨了 2026 年 AI 领域的边缘趋势：个人开发者训练小模型（SLM）。文章详细介绍了 CJ Zafir 的方法论，即利用 Codex 和 DeepSeek 生成数据、Unsloth 进行训练、Qwen 作为基座，以极低成本（最低 11 美元）在垂直任务上超越大模型。文章指出，真正的护城河在于高质量数据集的生成工厂，而随着硬件门槛降低和工具成熟，模型微调正从企业军备竞赛转向个人技能。
相关文档
How to train your own Jev for $17
本文介绍如何以约17美元的成本微调一个类似Jev的高效分类模型。作者基于Qwen3.5 4B，从MultiNLI、BoolQ、Banking77、AG News、SST-5等多个Hugging Face数据集中采样约3.8万个样本，通过脚本归一化数据后，使用Together AI的Fine-tuning服务启动训练任务（约25分钟完成），再将模型部署到Together AI的专用端点（dedicated endpoint），并通过API查询模型完成分类任务。文中还发布了可直接使用的together/Tev1-4B-experimental模型，适用于客服意图识别、文本情感分析、论文分类等实际场景，涵盖从环境搭建、数据准备、训练到部署查询的完整流程。
How To Fine-Tune a Small LLM on Your Own Data (Full Guide)
这是一篇关于微调小型LLM的完整实战指南。作者指出不需要70B大模型或昂贵算力，1.5B参数模型在200-500个优质样本上微调后，可在特定任务上超越通用提示的前沿模型。文章以商业融资文案生成为例，详细讲解了微调的实际目标、建立基线（纯提示、RAG、微调）的先后顺序，并分步骤介绍了小型基座模型选择（如Qwen2.5-1.5B）、数据权利合规、可复现数据下载、PDF文本提取与OCR、文本清洗、训练数据集构建、QLoRA训练、评估与部署，每一步均附完整代码。
Parallel Search 推出 Fast 模式：面向 AI 的高性价比网页搜索
Parallel 推出面向 AI agent 的 Fast 模式网页搜索，价格仅为主流模型默认搜索的十分之一，每千次查询 1 美元，在质量-成本和质量-延迟上均处于 Pareto 前沿，准确率接近 SOTA 的 Parallel Advanced。独立评测显示其端到端成本比 Brave、Exa、Tavily 便宜 2 倍以上。文章指出随着 GPT-5.6 Luna、DeepSeek V4 等高性价比模型普及，AI 智能成本数月内下降 8-12 倍，廉价模型需要廉价搜索，Parallel Fast 旨在提升 agent 每美元的有效工作量。
大肥鱼 1017 真是越用越顺手：用 DeepSeek-V4.1-Flash + OpenPencil 打造 UI 设计
作者分享使用 DeepSeek-V4.1-Flash 1017 模型配合开源 AI 原生设计工具 OpenPencil 和生图模型 Qwen-Image-2.1 Turbo 制作电商落地页与模特图的实战体验。文章包含完整的落地页设计提示词和模特生成提示词，展示了生成结果的高审美水准，并提到 OpenPencil 是一款开源免费的 AI Native 设计工具，核心能力是通过 Agent 输出高质量 UI 设计稿、卡片、轮播图、PPT 等，适用于电商页面和海报制作，评论区多人交作业复刻效果。
一个假期，用 AI 自制 Telos 全能 App 替代多个付费工具
作者在国庆假期用 3 天时间和 Astra 聊天，用 credits 开发出了全能 Mac 应用 Telos，替代了 Granola、Typeless、Things、CleanShot X、Notion Calendar 等多个付费软件，每年省下约四五百美元。Telos 基于 DeepSeek 模型和 Hermes Harness，功能包括：状态栏 Todo list、自动会议转录与总结（ScreenCaptureKit + Qwen3-ASR）、AI 语音标注截图、全局语音输入等。作者认为这些 App 打着买断制旗号行订阅制之实，经济下行下软件生态出现'自产自用'的消费降级趋势。
How to set up your first Local LLM in 10 Steps (Full-course)
这是一篇本地部署 LLM 的完整入门教程。文章首先说明开源模型（Qwen、DeepSeek、GLM 等）已接近闭源前沿约四个月，而 API 订阅配额却在缩水，因此本地部署的价值日益凸显。教程从 Step 0 开始：检查内存、按内存三分之二规则选择模型、安装 Ollama 并运行第一个模型。随后解释了本地模型的核心优势（数据隐私、零边际成本、不受限）与局限（性能不及闭源前沿），分析了订阅补贴经济的不可持续性，并指导读者根据任务需求选择硬件，强调容量决定装得下、带宽决定跑得快、利用率决定是否划算。
Building an RL fine-tuning platform to train JEV-like decision models
本文介绍如何将开源 LLM（Qwen3-4B）改造为决策模型，构建小规模训练平台并产出 Gero-4B。作者在 MacBook（M5 Pro, 24GB）上使用 Apple MLX 进行 LoRA 微调，分三个阶段：架构改造（将 LM head 替换为共享线性打分层）、结构训练（学习题目格式）、强化学习训练（实现校准的置信度输出）。核心设计是每个选项独立分支的打分架构，通过自定义 KV cache 共享前缀表示，并利用注意力掩码隔离各分支，从结构上消除位置偏差。最终模型输出数值化、校准良好的概率分布，可直接用于自动化决策（如高置信度自动处理、低置信度转人工）。文章附有完整可运行的代码实现。
Jeff：把 Jev 类决策模型压到 0.8B，跑在本地
Mathias Strasser（Scissero）基于 Qwen3.5 和 Gemma 4 微调出 Jeff 系列 0.8B/2B 决策模型，用于零样本分类：输入描述与选项，一次前向传播返回各选项校准概率。模型在 RTX PRO 6000 上约 22 毫秒、M4 Max 上 28 毫秒即可完成一次决策，0.8B 仅 1.7GB，可直接本地部署。整体基准分 Jeff-2B 达 83.1，几乎追平 Jev 的 83.0；Doom 零样本测试中 Jeff-0.8B 在无人提示规则下达到 6.55，追平 Jev 公布成绩。作者诚实列出局限：不能推理、最多 26 个选项、只支持英文文本等。代码 MIT、权重 Apache 2.0 开源。
有人把 Jev 开源复刻了，还给出了「自己微调」的完整闭环
Jared Palmer（Cognition）开源了 Kev，一族建在 Qwen3.5/3.8 之上的 Jev 式小型决策模型（0.8B~27B，Apache-2.0）。文章介绍了 Kev 与 Jev 的对比数据：Kev-27B 在新数据源上与 Jev 相差一个点以内，但作者强调这不是受控比较。最有价值的部分是完整的微调闭环：通过 coding agent 的 skill，可自动从用户代码中找出问题、转换已有标签、在 Modal 上微调并部署，一次 Kev-4B 训练在 H100 上约 1 美元，示例中把准确率从 67.7% 提到 73.6%。文章还总结了校准温度、问题隔离设计等工程细节，以及作者诚实的自我限制态度。
Jev WeChat 微信群聊助手开源项目分享
作者分享了一个开源的 Jev WeChat 微信群聊助手项目，可用 AI 自动分析群聊意图并生成候选回复，解决不懂人情世故、微信客服和群助手自动化等场景。项目发布后引发热议，网友讨论了封号风险（建议用小号测试安卓设备）、适用场景（私域运营、客服、销售、情侣群聊）、技术实现（使用 DeepSeek 生成回复）等。文中还附带分享了 Agent Space 订阅管理产品和 6 个大模型写 Space Invaders 的横向评测 benchmark，以及出海增长工作坊推荐等内容。
Build your own Jev (100% local)：用开源 LLM 构建本地决策引擎
文章介绍如何将开源 LLM 变成快速、本地的决策引擎，而无需重新训练。核心思想是：当应用已知所有可能的答案时，不必让模型生成文本或 JSON，而是通过 next-token scoring 一次性为每个候选答案返回分数和概率分布。作者讲解了固定答案打分与结构化输出的区别、LLM 第一个输出 token 的生成原理，并使用 SGLang 的 /v1/score 接口，结合 Qwen 和 DeepSeek 模型进行实测，与普通文本生成进行了基准对比。文中还提到概率的含义与校准问题。
如何用自己的数据微调一个小模型
本文是翻译整理的完整小模型微调指南（原作者Rahul），主张用1.5B参数模型配合200-500条高质量样本微调，即可在特定任务上超越通用前沿大模型。文章涵盖微调的正确认知（微调非提升智能而是稳定窄任务）、三个基线建立、选择Qwen2.5-1.5B等小基座模型、数据权利确认、PDF/OCR文本抽取与清洗、按公司切分数据集、QLoRA训练超参配置、幻觉数字检测评测、vLLM部署及监控重训策略。强调数据合规和评测纪律是真正值钱的部分，附完整可运行代码。