本地大模型小白从0到1完整入门教程
本文是一篇面向新手的本地大模型运行与部署全攻略。文章首先对比了云端与本地模型在隐私和成本上的差异，随后用通俗易懂的语言拆解了模型命名、参数量(B)、量化压缩(Q4_K_M)等核心概念。教程详细指导了如何根据显存计算并选择合适的硬件与模型，并推荐了LM Studio与ComfyUI等无代码软件。最后，针对文本对话、图像及视频生成三大场景，提供了具体的模型选型建议与实战评测方法，帮助小白零基础快速玩转本地AI生态。
相关文档
8G显存也能跑：Qwen-Image-2.1-Turbo 去审查版本地部署 8 步出图（附 ComfyUI 工作流）
文章介绍了 HuggingFace 上 AtomicChat 发布的 Qwen-Image-2.1-Turbo GGUF 量化版及去审查文本编码器。作者澄清该编码器仅移除拒绝倾向，对画图内容几乎无影响，其真正价值在于提供低显存无损量化方案。文章详细记录在 RTX 5060（8G 显存）真机上使用 ComfyUI 部署的完整流程：4 个模型文件的下载与存放、11 节点工作流配置，以及 5 个实测踩坑与解法（工作流 JSON 参数顺序、去噪器/编码器混淆、GGUF 架构识别错误、mmproj 缺失、latent 连接问题）。实测首次出图约 2 分钟，之后每次约 1 分钟，并附 4 组提示词与量化选型表。
How to set up your first Local LLM in 10 Steps (Full-course)
这是一篇本地部署 LLM 的完整入门教程。文章首先说明开源模型（Qwen、DeepSeek、GLM 等）已接近闭源前沿约四个月，而 API 订阅配额却在缩水，因此本地部署的价值日益凸显。教程从 Step 0 开始：检查内存、按内存三分之二规则选择模型、安装 Ollama 并运行第一个模型。随后解释了本地模型的核心优势（数据隐私、零边际成本、不受限）与局限（性能不及闭源前沿），分析了订阅补贴经济的不可持续性，并指导读者根据任务需求选择硬件，强调容量决定装得下、带宽决定跑得快、利用率决定是否划算。
大肥鱼 1017 真是越用越顺手：用 DeepSeek-V4.1-Flash + OpenPencil 打造 UI 设计
作者分享使用 DeepSeek-V4.1-Flash 1017 模型配合开源 AI 原生设计工具 OpenPencil 和生图模型 Qwen-Image-2.1 Turbo 制作电商落地页与模特图的实战体验。文章包含完整的落地页设计提示词和模特生成提示词，展示了生成结果的高审美水准，并提到 OpenPencil 是一款开源免费的 AI Native 设计工具，核心能力是通过 Agent 输出高质量 UI 设计稿、卡片、轮播图、PPT 等，适用于电商页面和海报制作，评论区多人交作业复刻效果。
史上最简单的 ComfyUI 教程：云 GPU 部署 MOSS-Image 并实测对比 FLUX 3 Klein
作者分享了零基础也能上手的 ComfyUI 部署教程：租用云 GPU（RTX 4090 48G），把部署工作交给 AI（Codex），一句话完成环境配置，并提示优先使用平台公共模型库避免长时间下载。随后导入现成工作流，通过修改提示词中的中文引号内容生成带文字的海报图。文章还实测对比了 MOSS-Image 与 FLUX 3 Klein 两个 5B 级开源文生图模型，进行八组同题生成和 30 次连续造型编辑实验，给出构图控制适配器的解决方案，并附完整工作流与提示词下载链接。
5B 参数就能做到这种效果？开源生图模型太卷了！
作者使用模思智能开源的 5B 参数图像生成模型 MOSS-Image，为 Claude 和 DeepSeek 设计拟人化角色形象。文章分享了角色设计思路：Claude 采用橙棕奶油配色体现温暖复古气质，DeepSeek 延伸蓝色海洋主题。作者重点介绍了 MOSS-Image 的优势：生成速度快于 Stable Diffusion 和 ComfyUI，支持准确的中英文文字渲染、JSON Layout 布局控制、最长 4K tokens 提示词，并提供 Prompt Enhance 提示词增强功能。模型基于国产 PPU 算力平台训练，已开放 Base 和 SFT 版本权重，支持动漫、写实等多种风格，目前可免费体验。
开源5B小模型 MOSS-Image 两次画对整首《将进酒》，闭源最强 GPT Image 2.5 第二轮翻车
作者用一道难题对比测试开源 5B 图像模型 MOSS-Image 与闭源最强的 GPT Image 2.5：在一张水墨长卷中画出李白临江举杯场景，写出《将进酒》全文12行书法，配标题、作者、朱印和英文，并精确控制酒杯数量。第一轮两者都通过，但第二轮仅改两处细节后，GPT Image 2.5 数错酒杯，MOSS-Image 两轮全部正确。文章分析了小模型在中英文渲染、长提示词理解（支持4K tokens）和风格控制上的优势，并分享了结构化布局、负面约束等复杂提示词技巧，附完整提示词。MOSS-Image 已开源权重和代码，支持 LoRA 微调，ComfyUI 下载量突破70万。
Windows 搭建 ComfyUI 环境 | 小白也能直接上手
本文介绍如何在 Windows 系统上快速搭建 ComfyUI 环境，适合零基础用户。作者使用 B站UP主秋葉aaaki 提供的整合包，只需解压和双击两步即可完成安装，一键启动后浏览器自动打开本地界面。模型下载与配置、工作流搭建（文生图、图生图、图生视频）等操作均可交给 WorkBuddy（AI Agent）完成，用户只需修改提示词点击生成即可，甚至可通过 API 让 Agent 全程自动完成并返回结果。文中还提供了 qwen-image-2.1-turbo 模型的下载示例及相关资源链接，遇到问题可将报错截图发给 AI 解决。
两块钱一小时，把开源生图模型 Ming-Image-0.1 跑在云端 GPU 上
作者分享了一份云端 GPU 部署教程，用每小时仅两块钱的租用显卡（实测 RTX 4090），在破旧笔记本上跑通蚂蚁百灵刚开源的生图模型 Ming-Image-0.1-Design。文章从选择云平台与机器配置（显存、系统内存、数据盘）、镜像选择、SSH 连接、ComfyUI 启动，到运行官方工作流出图，手把手演示全流程。实测显示模型在商业海报的文字渲染上表现优秀，且 Design-Layer 模型可将设计图智能拆解为多个带透明通道的可编辑图层并自动补全背景。最后提醒下载成果、导出工作流并及时关机以节省费用。
Qwen-Image 2.1 本地部署实战：从此生图自由
本文详细介绍了 Qwen-Image 2.1 图像生成模型的三种本地部署路线：ComfyUI、Unsloth Desktop 和官方 Diffusers。作者首先解释了不同后端权重的差异，指出 DiT、文字编码器和 VAE 三件套需分别下载且不能混用。文章给出了 Windows RTX 5080 与 MacBook Pro M2 Max 两套平台的实测数据：5080 上 1MP 文生图约13秒，M2 Max 单张约10分钟。同时涵盖模型目录结构、extra_model_paths 配置、图像编辑模板用法、常见问题排查及 Qwen Research License 商用限制提醒，是一份可复现的完整部署教程。
Build your own Jev (100% local)：用开源 LLM 构建本地决策引擎
文章介绍如何将开源 LLM 变成快速、本地的决策引擎，而无需重新训练。核心思想是：当应用已知所有可能的答案时，不必让模型生成文本或 JSON，而是通过 next-token scoring 一次性为每个候选答案返回分数和概率分布。作者讲解了固定答案打分与结构化输出的区别、LLM 第一个输出 token 的生成原理，并使用 SGLang 的 /v1/score 接口，结合 Qwen 和 DeepSeek 模型进行实测，与普通文本生成进行了基准对比。文中还提到概率的含义与校准问题。
DeepSeek V4.1 Flash：架构学习笔记
本文是 DeepSeek V4.1 Flash 的架构学习笔记。文章详细解析了其 Causal Encoder-Decoder（CED）结构，该结构通过前后半段网络的不对称计算减少长输入处理成本。核心创新在于 KV 缓存压缩：通过 CSA2 跨层共享全局 KV、FP4 量化、分层稀疏检索以及 SWA 有界回放等设计，将全局 KV 降至约 890 字节/token，持久化缓存约为上一代的 1/8。文章还讨论了这些设计如何协同工作，使长上下文在 Agent 场景下更可负担。
千问 Qwen3.8 本地部署：从跑起来到私人 AI 工作站，小白保姆级教程
本文是一篇面向新手的本地大模型部署教程，作者以 MacBook Pro（Ubuntu 24.04、AMD Ryzen AI MAX+ 395、128GB 统一内存）为例，详细讲解了如何用 Ollama 部署 Qwen3.8 27B 模型。文章先解释了本地 AI 的真正价值——隐私、控制权、可接入工作流，而非省钱；然后指导读者判断硬件是否够用、如何选择合适的模型版本和量化等级，并用五步完成部署验证。随后介绍通过 Open WebUI 搭建日常使用界面，以及如何接入个人资料构建知识库（RAG），应用于科研和内容创作场景，最终将 AI 从网页聊天框变成个人设备上的基础设施。
