新模型发布，为啥总要画鹈鹕？
文章讲述了“生成骑自行车的鹈鹕SVG”这一AI测试题的来龙去脉。该题源自英国程序员Simon Willison，因同时考验模型的空间几何理解与代码生成能力而成为测试大模型的经典题目。随着模型进步，该测试已趋于饱和，连小体量开源模型Qwen3.6都能击败Claude Opus 4.7，引发其是否沦为“应试科目”的讨论。作者分析了鹈鹕测试依然流行的原因：直观易懂、已成为开发者社区的“开机仪式”，透过这只越来越像样的鹈鹕，能直观感受AI时代的快速发展。
全部文档 / 标签: Qwen
47 篇
大肥鱼 1017 真是越用越顺手：用 DeepSeek-V4.1-Flash + OpenPencil 打造 UI 设计
作者分享使用 DeepSeek-V4.1-Flash 1017 模型配合开源 AI 原生设计工具 OpenPencil 和生图模型 Qwen-Image-2.1 Turbo 制作电商落地页与模特图的实战体验。文章包含完整的落地页设计提示词和模特生成提示词，展示了生成结果的高审美水准，并提到 OpenPencil 是一款开源免费的 AI Native 设计工具，核心能力是通过 Agent 输出高质量 UI 设计稿、卡片、轮播图、PPT 等，适用于电商页面和海报制作，评论区多人交作业复刻效果。
一个人十天写出的引擎，让 12GB 显卡跑起 1250 亿参数模型
个人开发者用十天时间（代码大部分由 AI 编写）打造了推理引擎 Strata，能让 12GB 显存的普通电脑运行 1250 亿参数的 Qwen 3.8 Flash Next 模型。文章剖析其六倍速度宣传实为不同量化版本对比，同版本实际是两到四倍；真正亮点是 prompt 读取速度达每秒 1500 token。核心技术是围绕 MoE 架构的专家缓存，命中率约 72%，代价是输出可能偏离原模型结果。文章还对比了买内存自建与云端 API 的成本账，并预判通用引擎 llama.cpp 将在几个月内补齐缓存能力。
这台卖37999的RTX Spark电脑，让我实现了Token自由
作者分享了使用英伟达RTX Spark笔记本（华硕ProArt创16，128G统一内存+1T，售价37999元）一周的深度体验。该设备结合了大内存与CUDA生态，解决了本地跑大模型要么选Mac要么受显卡显存限制的痛点。作者演示了通过WorkBuddy部署各类本地模型，包括Qwen3.8-27B大语言模型、图像生成、视频生成、OCR、ASR、TTS等，并打包成一个专家应用方便开箱即用。文章还讨论了AI全天候工作带来的成本问题，认为本地算力是实现Token自由、摆脱API费用束缚的关键方案。
8G显存也能跑：Qwen-Image-2.1-Turbo 去审查版本地部署 8 步出图（附 ComfyUI 工作流）
文章介绍了 HuggingFace 上 AtomicChat 发布的 Qwen-Image-2.1-Turbo GGUF 量化版及去审查文本编码器。作者澄清该编码器仅移除拒绝倾向，对画图内容几乎无影响，其真正价值在于提供低显存无损量化方案。文章详细记录在 RTX 5060（8G 显存）真机上使用 ComfyUI 部署的完整流程：4 个模型文件的下载与存放、11 节点工作流配置，以及 5 个实测踩坑与解法（工作流 JSON 参数顺序、去噪器/编码器混淆、GGUF 架构识别错误、mmproj 缺失、latent 连接问题）。实测首次出图约 2 分钟，之后每次约 1 分钟，并附 4 组提示词与量化选型表。
12G显存部署125B Qwen3.8-Flash-Next 全攻略
本文介绍了如何借助Strata框架和Agent自动化流程，在12GB消费级显卡上部署125B参数的MoE模型Qwen3.8-Flash-Next。文章解释了MoE稀疏激活（每token仅激活6B）与Strata让GPU、CPU、RAM、SSD协同工作的原理，对比了不同量化方案（UD-IQ4_XS与UD-Q4_K_XL）在专家缓存命中率上的速度差异。作者全程使用蚂蚁的Ling-3.1-flash Agent完成从读文档、检查硬件、安装、排错到测速验收的部署流程，并成功将本地模型接入pi。该方法可复用于部署Ling、GLM、Kimi、DeepSeek等其他本地模型。
12G显存部署125B Qwen3.8-Flash-Next 全攻略
本文介绍如何在12GB显存上部署125B参数的Qwen3.8-Flash-Next模型。核心是Strata技术让GPU、CPU、RAM和SSD协同工作：常用专家留GPU，其余放RAM，CPU处理cache miss。RTX 5070 12GB + 64GB RAM在Q2_0量化下短对话可达94 tok/s。文章还讲解了量化选择策略——显存占用相同时速度可差1.72倍，关键在于专家命中率。作者全程使用蚂蚁的Ling-3.1-flash Agent自动完成从检查机器、选权重、下载安装到排错验收的完整部署流程，跑通了一套用Agent自动部署本地模型的可复用方法。
How to set up your first Local LLM in 10 Steps (Full-course)
这是一篇本地部署 LLM 的完整入门教程。文章首先说明开源模型（Qwen、DeepSeek、GLM 等）已接近闭源前沿约四个月，而 API 订阅配额却在缩水，因此本地部署的价值日益凸显。教程从 Step 0 开始：检查内存、按内存三分之二规则选择模型、安装 Ollama 并运行第一个模型。随后解释了本地模型的核心优势（数据隐私、零边际成本、不受限）与局限（性能不及闭源前沿），分析了订阅补贴经济的不可持续性，并指导读者根据任务需求选择硬件，强调容量决定装得下、带宽决定跑得快、利用率决定是否划算。
权重压到 4 bit，大模型为什么还能工作？
文章以 Qwen3.8-27B 为例，系统讲解大模型权重量化的原理。从参数如何参与矩阵乘法运算入手，说明 bit 数与编码格式（FP16、BF16、INT4）的关系，演示 0.73 如何被 4 bit 编码为 0.8 并引入误差。深入分析了刻度选择中范围、分辨率与截断误差的取舍，权重误差如何随输入放大为输出误差，以及 GPTQ、AWQ、PTQ、QAT 等量化方法如何利用校准数据控制误差。最后估算 4 bit 模型的存储大小（约 13.5-19 GB），讲解 KV 缓存、混合注意力结构对显存的影响，并给出选择和评估本地量化模型的实用建议。
万字爆肝长文丨两张 3000 块老卡跑赢 3 万块 4090 48G：一次讲透怎么老显卡把 Qwen3.8-27B /NInfer跑到极致
作者详细记录了用两张二手 V100（各 3000 元）运行 Qwen3.8-27B 大模型的完整优化过程。V100 是 2017 年的数据中心显卡，HBM 显存带宽实测达 1004GB/s，甚至高于 4090。文章先建立测试口径与性能分析框架（读权重与读 KV 缓存两笔账），逐步排查瓶颈：验证带宽不是问题、测试双卡张量并行、分析 PCIe 延迟与 NCCL 版本坑，最终通过重写推理引擎内核、添加双卡支持，将长上下文生成速度从 36 tok/s 提升到 100 tok/s 以上，代码生成速度超过 3 万元的 4090 48G，并成功上线生产环境。文中深入浅出讲解了推测解码、CUDA Graph、内核优化等技术细节。
Building an RL fine-tuning platform to train JEV-like decision models
本文介绍如何将开源 LLM（Qwen3-4B）改造为决策模型，构建小规模训练平台并产出 Gero-4B。作者在 MacBook（M5 Pro, 24GB）上使用 Apple MLX 进行 LoRA 微调，分三个阶段：架构改造（将 LM head 替换为共享线性打分层）、结构训练（学习题目格式）、强化学习训练（实现校准的置信度输出）。核心设计是每个选项独立分支的打分架构，通过自定义 KV cache 共享前缀表示，并利用注意力掩码隔离各分支，从结构上消除位置偏差。最终模型输出数值化、校准良好的概率分布，可直接用于自动化决策（如高置信度自动处理、低置信度转人工）。文章附有完整可运行的代码实现。
AI Must Belong to You
Sigil Wen 宣传 Underdog 27B 端侧 AI 模型，声称其可在 Mac 和 iPhone 上运行并超越半年前的顶级模型 Claude Opus 4.6。文章提出核心观点：计算正从数据中心回归个人设备，未来大部分 AI token 将由个人设备生成。作者以'AI Y3K'概念警告云端数据安全风险——一切可被黑的系统终将被黑，唯一安全的数据是从未上传的数据。文章还指出日常任务不需要最大的模型，并通过自研 MSI 推理引擎提升消费级芯片性能。最终愿景是构建免费、私密、属于用户本人的 AI，对抗广告与数据收割的商业模式，让 AI 经济属于每个人。
有人把 Jev 开源复刻了，还给出了「自己微调」的完整闭环
Jared Palmer（Cognition）开源了 Kev，一族建在 Qwen3.5/3.8 之上的 Jev 式小型决策模型（0.8B~27B，Apache-2.0）。文章介绍了 Kev 与 Jev 的对比数据：Kev-27B 在新数据源上与 Jev 相差一个点以内，但作者强调这不是受控比较。最有价值的部分是完整的微调闭环：通过 coding agent 的 skill，可自动从用户代码中找出问题、转换已有标签、在 Modal 上微调并部署，一次 Kev-4B 训练在 H100 上约 1 美元，示例中把准确率从 67.7% 提到 73.6%。文章还总结了校准温度、问题隔离设计等工程细节，以及作者诚实的自我限制态度。
We built a 20x faster Grok bot
Cerebras 团队测试了主流 AI 个人助理完成订餐任务的表现，发现现有助理耗时过长（如 Grok Bot 需 7 分 40 秒）。团队使用 Qwen 3.8 27B 模型运行在 Cerebras 硬件上，以 Pi 作为 Agent Harness，通过三项优化将任务压缩至 22 秒：1) 并行执行独立的检查操作；2) 借助 Cerebras 快速推理加速模型调用；3) 将探索网站的经验固化为 Skill 复用，减少 80% 以上的工具调用。文章展示了 Harness Engineering、快速推理和经验沉淀对 Agent 效率的巨大提升潜力。
How to train your own Jev for $17
本文介绍如何以约17美元的成本微调一个类似Jev的高效分类模型。作者基于Qwen3.5 4B，从MultiNLI、BoolQ、Banking77、AG News、SST-5等多个Hugging Face数据集中采样约3.8万个样本，通过脚本归一化数据后，使用Together AI的Fine-tuning服务启动训练任务（约25分钟完成），再将模型部署到Together AI的专用端点（dedicated endpoint），并通过API查询模型完成分类任务。文中还发布了可直接使用的together/Tev1-4B-experimental模型，适用于客服意图识别、文本情感分析、论文分类等实际场景，涵盖从环境搭建、数据准备、训练到部署查询的完整流程。
Qwen 发布会观察：从模型训练到芯片协同的完整研发体系正在形成
作者总结了 Qwen 发布会的重点：除了新模型外，更值得关注的是 Qwen 形成了从模型训练、推理优化到芯片协同的完整研发体系。核心亮点是 RSI 递归自我进化，Qwen3.8-Max 在少人工干预下连续运行一个多月完成 33 轮迭代，包括自主优化 SGLang 提升 96% 吞吐、芯片设计中减少 42% 物理实现面积。Qwen3.8-Omni-Flash 统一多模态理解框架支持 1M 上下文，价格大幅下降约九成。Qwen4 已开始训练，未来参数量将扩展到 5 万亿至 10 万亿。开源生态方面，累计下载超 30 亿次，衍生模型超 30 万个。
一年之间，云栖大会里的 AI 到底进步了什么？
文章对比2025与2026年云栖大会，梳理AI一年间的进步：从'云智一体'到'智以致用'，重点从模型能力展示转向产业落地。Qwen3.8-Max主打长程任务执行，Qwen3.8-Omni-Flash在多模态理解上大幅提升且成本骤降；Agent从聊天进入工作流，具备拆解目标、多智能体协作、沉淀Skill等能力；具身智能与AI硬件走向现实。对内容创作者而言，生产模式正从单模型生成片段走向多模型协同的完整生产链，Qwen4与下一代视频模型值得期待。
Build your own Jev (100% local)：用开源 LLM 构建本地决策引擎
文章介绍如何将开源 LLM 变成快速、本地的决策引擎，而无需重新训练。核心思想是：当应用已知所有可能的答案时，不必让模型生成文本或 JSON，而是通过 next-token scoring 一次性为每个候选答案返回分数和概率分布。作者讲解了固定答案打分与结构化输出的区别、LLM 第一个输出 token 的生成原理，并使用 SGLang 的 /v1/score 接口，结合 Qwen 和 DeepSeek 模型进行实测，与普通文本生成进行了基准对比。文中还提到概率的含义与校准问题。
千问 Qwen3.8 本地部署：从跑起来到私人 AI 工作站，小白保姆级教程
本文是一篇面向新手的本地大模型部署教程，作者以 MacBook Pro（Ubuntu 24.04、AMD Ryzen AI MAX+ 395、128GB 统一内存）为例，详细讲解了如何用 Ollama 部署 Qwen3.8 27B 模型。文章先解释了本地 AI 的真正价值——隐私、控制权、可接入工作流，而非省钱；然后指导读者判断硬件是否够用、如何选择合适的模型版本和量化等级，并用五步完成部署验证。随后介绍通过 Open WebUI 搭建日常使用界面，以及如何接入个人资料构建知识库（RAG），应用于科研和内容创作场景，最终将 AI 从网页聊天框变成个人设备上的基础设施。
1分钟，开源模型原生支持移动端
作者分享通过UU远程的最新升级，让本地运行的开源大模型（如Qwen 27B）拥有了手机端入口。相比Codex远程控制只支持自家模型、Claude Code远程有封号风险，本地模型不花钱、不封号且速度快。UU远程基于tmux实现，支持完整TUI渲染、多终端会话、跨端接管和语音输入，且免费。作者还开源了uu-term-bridge工具，让iTerm2中的所有会话自动出现在手机列表，实现桌面与手机双向无缝切换，补齐了与Codex远程体验的差距。
图解 ASR 和 TTS：HuggingFace 开源模型测评
作者实测了 HuggingFace 上多语种榜单第一、可本地部署的开源语音模型 Hojo-ASR-Multi-V1 和 Hojo-TTS-Light-40M。通过普通话、粤语、四川话及多国外语的实际听写测试，发现该 ASR 模型在普通话和粤语表现出色，但在方言虚词、专名和噪声场景下会出错；TTS 小模型在 CPU 上即可快速合成中英夹杂语音。文章还分析了模型体量、内存和 RTF 的关系，并给出不同场景下 ASR/TTS 开源模型的选型建议。
70GB 模型跑在 48GB Mac 上：Qwen3.8-Flash-Next 部署实录
作者在 48GB 内存 MacBook Pro（M4 Pro）上成功部署了磁盘体积约 70GB 的 Qwen3.8-Flash-Next REAP-288 MLX 4-bit 模型。文章解析了能跑起来的三重原因：REAP 将每层 512 个专家裁剪至 288 个、主模型与 PLE n-gram 表均做 4-bit 量化、以及 51B 参数的 PLE 表通过 mmap 留在 NVMe 按需流式读取。实际驻留约 39GB，首次加载约 10.14 秒，decode 稳定在 26～29 token/s，prefill 峰值约 149 token/s。实测最大上下文仅 8,217 tokens（配置声明 262K），建议日常使用 7,680 tokens。文章还记录了 Metal 内存上限调整、oMLX 服务启动及完整基准测试过程。
从零安装Qwen3.8-27B：Mac本地部署与性能调优指南
本文详细介绍了如何在 Apple Silicon Mac 上从零部署 Qwen3.8-27B 模型。作者苏乐指出，普通 Mac 无需升级到最新 Mac Studio 即可运行该模型，关键在于算清内存账：模型权重、上下文缓存、运行缓冲、草稿模型和系统开销共享统一内存。文章对比了 4-bit、8-bit 和 BF16 量化版本的选择建议（24GB/32GB 选 4-bit，48GB/64GB 可选 8-bit），并提供了完整的部署流程：使用 uv 管理环境、通过 hf 命令下载模型、先测 baseline 速度再逐步开启优化。文章还解释了 DFlash 2 投机解码加速原理——通过轻量草稿模型并行提出候选 token，再由主模型验证，从而显著提升生成速度。
粉丝破 2000！8 月出海建站与失业自救精选合集
作者浅水虾在公众号粉丝突破 2000 之际，对 2026 年 8 月的文章进行月度总结。内容涵盖四大板块：一是出海建站变现全景，包括网站数据统计链路、GA4 工具选用、谷歌 6 大建站形态与 10 种变现管道；二是 36 岁失业后的心态调整与自救心得；三是外链资源、关键词选词策略及工具推荐，如 70 个外链渠道、挖词实战和群友开发的哥伦布数据库；四是本地部署 Qwen 大模型的实操复盘及 AdSense 优化等实战避坑文章，是出海建站者的实用合集。
千问 Qwen3.8 27B 本地化部署：小白保姆级教程
本文是一篇面向小手的本地大模型部署教程，作者在配备 AMD Ryzen AI MAX+ 395、64GB 统一内存的 Ubuntu 24.04 机器上，完整演示了如何用 Ollama 部署千问 Qwen3.8 27B 量化模型（UD-Q3_K_XL）。文章首先解释了本地化部署、参数规模、量化（Q3_K_XL）、token 等基础概念，说明本地部署的隐私、离线使用、无次数限制等优势。随后分 Windows 和 Linux 两条路线讲解环境检查、Ollama 安装、模型下载（约 13GB，运行占 29GB）、首次对话，以及如何确认 GPU（ROCm/Vulkan）真正接管计算，并提供常见问题排查方法，最终一条命令即可在本地跑通模型。
用小模型替代大模型最难的一步，我用 Apodex 解决了
作者尝试用 Apodex 1.1 自动生成训练数据，解决用小模型替代大模型时缺乏标注数据的难题。实验场景是让小模型学会根据自然语言描述从 HuggingFace 九百多个候选模型中挑选正确的模型。Apodex 拆解任务、派出 14 个子 Agent 分工协作并上网核实，最终生成 4218 条经核实的训练数据，还主动推翻了作者一条错误规则。用这批数据训练 Qwen3.5-0.8B 后，挑对模型的比例从 0.4% 提升到 10.7%，瞎编模型名的比例大幅下降，效果优于当年 Berkeley 用 GPT-4 生成的数据。作者总结：AI 能替人造数据的关键，在于能否自动判对错。
2026 开源模型全网最全盘点：从入门到榨干（含双机实测）
文章系统盘点了 2026 年值得关注的开源 AI 模型，涵盖语言、图片、视频三大类别，包括 Qwen、DeepSeek、Kimi、GLM、MiniMax、混元等国产阵营及海外模型。作者拆解了模型命名规则（参数量、MoE、量化、许可证等），提出五步选型筛选法，并比较各硬件平台（Mac 统一内存、NPU AI PC、大内存 APU 等）的适配能力。文章还讲解了本地部署的适用场景与许可注意事项，最后通过 Mac 和 Windows 双机实测检验模型在文字、看图、分镜和视频任务上的真实表现，帮助读者判断自己需要哪类模型以及电脑能否带动。
Pi Agent + Qwen 3.8 27B 深度优化
作者在懒猫AI算力舱 X5（128GB显存）上部署 Qwen 3.8 27B 稠密模型，真实项目中跑了4个任务均完成良好。通过 MTP 投机解码 + NVFP8 混合优化并关闭 thinking 模式，速度从 13.9 提升到 30.8 Tokens；但发现关闭思考模式会降低代码推理准确度，重新开启后实测稳定 26.47 Tokens（含思考阶段实际可达 35.23 Tokens/s）。后续还将通过重新量化构建 draft engine 进一步提速。
Hugging Face 估值 130 亿：AI 界 GitHub 为何试探出售
Hugging Face 正接触潜在买家，估值可能超 130 亿美元，比当年微软收购 GitHub 的 75 亿还高。文章分析其价值来自模型分发入口地位：平台模型、数据集超百万，Qwen、DeepSeek 等开源模型均以此为主阵地。公司年化收入已过 1 亿并盈利，出售并非自救，而是趁高位试探最优价格。核心难题在于中立性：任何大买家（Google、英伟达等股东）收购都会动摇其他厂商信任。作者回顾微软收购 GitHub 八年后的变化，提醒关注收购后模型迁移自由与推荐公平性。
解除 Qwen 3.8 的安全护栏：Abliteration 技术解析
文章探讨网络上流传的'无审查'Qwen 3.8 模型。作者测试发现官方原版 Qwen 3.8 对有害请求全部拒绝，所谓无审查版本实为经过 abliteration 处理的衍生模型。Abliteration 是一种永久性的权重修改技术，基于 2024 年 Arditi 等人的研究发现：模型的拒绝行为由内部单一方向向量介导。通过对比有害与无害提示在残差流中的激活差异，用 PCA 找出拒绝方向并从权重中减去，从而移除拒绝反射但保留模型知识。相关衍生模型在 Hugging Face 上已获超 76 万次下载。
